上海交通大学创建于1896年。同年建有一个图书室。1919年建成一座独立图书馆大楼。1981年7月，在党和国家领导人邓小平、王震等同志亲自关怀下，原香港环球航运集团主席包玉刚先生向上海交通大学捐赠1000万美元，建设一座现代化图书馆，于1985年10月落成使用，叶剑英同志亲笔题写馆名。1990年，为适应学校的发展，在闵行校区兴建了包玉刚图书馆，于1992年4月启用。1999年9月，原上海农学院正式并入上海交通大学。2005年6月，上海第二医科大学与上海交通大学合并。现图书馆由徐汇校区包兆龙图书馆、闵行校区包玉刚图书馆、文科图书馆、医学图书馆和七宝校区图书馆组成，总面积52，500㎡，阅览座位4，000座；至2004年底，馆藏文献271万余册（件），中外文科技类现刊6，000余种， 35万种电子图书, 外文电子期刊近10，000种，中文电子期刊10，000余种，国内外网络版学术资源数据库系统40余种（220余个数据库），其中大型数据库有：Web of knowledge、IEEE/IEE Electronic Library、EI Village、OCLC Firstsearch、Elsevier、Springer-Link、Cambridge Scientific Abstracts、中国学术期刊网等。面向全校四万余名师生，为教学科研和科技园区服务；同时对兄弟院校和社会开放服务。
图书馆贯彻执行“读者第一，服务至上”办馆宗旨，采取多种措施，打破常规，方便读者，每年推出特色主题服务。上海交通大学图书馆是国际图联成员馆；加入美国联机编目中心，与国内主要图书馆、信息中心和美、英、新、澳、港澳台地区图书馆建立了广泛的合作关系。 图书馆紧密配合学校发展，在交通、材料、机电、能源、交通、信息、管理及农业等学科领域形成馆藏文献特色。全馆实行文献资料统一协调， 集中采购，聘请各院系骨干教授担任文献选购顾问；采用《中国图书分类法》分编入藏、上架。
目前，加强网络和数字资源建设，实现校园网上24小时的目录、电子文献、馆际互借、参考咨询、征订文献、新书刊报道等信息的查阅、检索和链接服务。在徐汇、闵行和七宝校区分别建成电子文献阅览室，500余台PC机投入CERNET、INTERNET查询、国内外联机数据库和光盘数据库检索。图书馆集成管理系统（Horizon）运行在HP9000/K系列超级小型机上，通过三校区网络中心实行三校区图书馆间的连接。
图书馆长期以来，坚持“图情一体化”的建设原则。1987年，成立情报科学技术研究所，开始招生研究生。我们加强教学、培训功能，承担研究、查新、编译和定题服务等工作，为国家科技委和上海市指定的学科文献及科技成果查新机构 。1997年，经国家教育部正式批准，我馆成为“情报学”硕士生学位授予点，面向全国招生；1997年，在包兆龙图书馆建立了“上海市研究生电子文献检索中心”；1999年，中国高等教育文献保障体系华东南地区文献信息中心设立于交大；2000年，“上海教育网络图书馆管理中心”设于交大；2001年，上海中心图书馆交大分馆成立，与上海市共建共享文献信息资源。同时，加大力度建设具有交大特色的专题（学科）数据库和交大重点学科“导航库”。
上海交通大学图书馆正向有特色的研究型图书馆迈进。在2010年，将建成数字化图书馆，使上海交通大学图书馆成为高质量的文献信息服务中心、高水平的信息咨询中心和学校精神文明建设基地，成为我国数字图书馆重要节点。