上院位於上海交通大學徐匯校區,建於清光緒二十六年(即公元1900年),為三層山字形的樓房,英倫文藝復興式風格。
上院建有拱券長外廊,外牆飾以斷山花和法國券式門窗。正面長60米,後有樓房3幢相接,每幢深約30米,建築面積6500平方米,造價達82908兩銀元。中部頂層有鐘樓,底層有大禮堂,是南洋公學時期的大學部。1954年重建為四層樓房,總面積為9746平方米,並更名為新上院。
上院在盛宣懷先生籌劃建校之初,與中院一起由美國人福開森統一籌劃設計。上院、中院在當時被稱為上海高校中最偉大的建築,裡面包括教室、實驗室、大禮堂、辦公室、學生宿舍、食堂等,是當時大學部學生主要的學習與生活場所。特班、我國第一個商務專科、第一個電機專科和鐵路管理專科均誕生於此樓。許多著名校友如李叔同、邵力子、黃炎培、凌鴻勛、鄒韜奮、陸定一等都曾在此樓學習過。