起源“南洋”，泛指华东沿海一带。清末民初，称江苏、浙江、福建、广东等沿海各省为“南洋”，称江苏以北沿海各省为“北洋”。南洋公学为盛宣怀1896年（光绪22年）创建于上海，与北洋大学堂同为中国近代历史上中国人自己最早创办的大学。
当时的南洋公学隶属于招商局和电报局，设立了师范院、外院、中院和上院四院，盛宣怀任督办。
交通大学的另一支起源于同年(1896年)创办于山海关的山海关北洋铁路学堂。
由于19世纪末天津发生义和团运动，因此北洋大学堂的师生被波转移到南洋公学继续教学，1899年毕业生王宠惠于北洋大学（今天津大学）法律科获得中国第一张大学文凭。
南洋公学因为地处上海租界，较少受战火侵扰。当时教学所用全为麻省理工学院的原版教材，时称“东方MIT”。
发展
南洋公学成立后几经更名。1910年代后期改为南洋大学。之后又改为上海工业专门学堂。
1911年至1912年，唐文治长校期间，曾把“邮传部高等实业学堂”改名为“南洋大学堂”。
1920年（民国9年）12月，北洋政府交通总长叶恭绰以交通部所属上海工业专门学校、唐山工业专门学校、北平铁路管理学校、北平邮电学校四校散居各地，不便管理，于1921年统一学制，统称交通大学。而分称各校为交通大学上海学校（沪校）、唐山学校（唐校）、北京学校（平校）。校庆4月8日也是取自交通要“四通八达”之意(唐校即今日之西南交通大学，校庆为5月15日)。
当时交通大学的老师大部分是留美博士，水平很高。而交通大学对学生的管理也很严格，因此毕业生大都较为优秀。当时交通大学在世界上也享有较高的知名度。钱学森去美国麻省理工学院求学时，发现许多课程与在交通大学学习的完全一样，要求免修得到批准。茅以升从交通大学唐山工学院毕业去美国卡内基梅隆大学时，该校起初不承认交通大学唐校之学历, 故出题考核茅之水平, 因为茅回答极为出色, 故该校后来决定从此对交通大学的留学生免试入学。王安去美国哈佛大学时，由于抗战没有带交大毕业证书和成绩单，哈佛大学知道是交大毕业的，决定破格录取。中华人民共和国原国家主席江泽民也毕业于交通大学。
抗日战争时期，交通大学上海分部内迁到重庆，唐山分部和北平分部也内迁到贵州遵义。
分裂国共内战之後，交通大学部分教职员随国民政府迁至台湾，但国民政府直至数年后才允许在台校友于新竹复校, 仍称国立交通大学。
1955年，鉴于当时的国际形势，同时也为支援西北教育建设，国务院决定交通大学在1955年至1957年两个学年中分批迁往西安。1956年暑假，西安新校舍落成，学校第一批西迁开始。最后实验设备，图书（约92%）和档案的大部分，约60%的师生迁至西安，而其余则留在上海。交通大学分为交通大学西安部分和交通大学上海部分。
1959年7月31日，经国务院批准，交通大学两部分独立建校，分别成立上海交通大学和西安交通大学。此时上海交通大学有19个专业，西安交通大学有23个专业。
