南京大学图书馆前身为1902年建立的三江师范学堂藏书楼，1915年改为高等师范图书馆，1928年改称中央大学图书馆，1949年 5月改为南京大学图书馆。国内著名图书馆学家刘国钧、李小缘、施廷镛和国学大师胡小石先生等人先后主持过馆务。
1979年扩建了新馆，目前馆舍面积共 2万平米，工作人员 130人。全馆共设阅览室10多个，1300席座位，年接待读者 100万人次以上。
经长期积累，包括1952年接收了原金陵大学图书馆的文理科藏书，本馆形成了比较系统、完整的综合性的藏书体系。至2002年底馆藏总数达 407万册。馆藏古籍线装书30多万册，其中列入全国善本书目的有 556种， 1万余册。地方文献、古代目录学文献以及丛书的收藏已形成特色。地方志共藏4000余种，近 4万册，在全国各大图书馆中处领先地位。本馆收藏了80多个国家和地区20多个语种的期刊，尤以物理、生物、地学、数学、东方学为特色，1949年以前的中文社会科学书刊收藏颇丰。南大图书馆是教育部建设的全国高校的地科(地质、地理、气象、天文、环境科学)教材中心、文科文献中心，经多年努力进一步增加了馆藏内容和特色。
1994年，建立了浦口校区分馆，目前藏书已达到30余万册。
本馆负责统筹协调校内21个院、系、所的图书室和资料室工作，与国内外 700余个单位保持经常的业务联系和书刊交换，为本校以及江苏、南京乃至全国的读者提供了广泛的优质服务。本馆是江苏省高校图情工委秘书处所在馆，长期以来为促进江苏高校图书馆的协作与交流、江苏与兄弟省的交流做出了贡献。
南大图书馆是国内较早从事计算机应用的高校图书馆。1986年在国内首先研制成功条型码计算机中文图书流通管理系统并投入使用。1992年开发了中文采购、编目管理系统等正式投入实际使用，受到同行的广泛好评。
1998年底，我馆全面更新了图书馆管理系统，使用由江苏汇文软件公司开发的新一代图书馆管理系统“汇文”系统，实现了图书馆管理的全面计算机化。到2002年5月为止，全校已有化学化工学院、建筑研究所、国际商学院、物理系等10多个院系资料室纳入图书馆的计算机系统统一管理；自2003年3月5日起，实现总馆和浦口分馆图书的异地借还。
随着中国高等教育文献保障系统(CALIS)和江苏省高等教育文献保障系统（JALIS）的建设,南京大学图书馆成为中国高等教育文献保障系统(CALIS)华东北地区中心和江苏省高等教育文献保障系统（JALIS）的管理中心，承担起为华东北地区（江苏、山东、安徽三省）的高等院校提供信息服务、协作、资源共享、管理的重任。
1999年“985项目”4000万图书经费的支持，经3年的努力，南大图书馆电子资源大幅度增加，万种以上的中外文全文电子期刊提供方便快捷的网上服务，使最新学术资源比原来增加了2倍以上。学习、工作、服务环境大大改善，改进了师生上网环境和提高了获取知识、信息的深度与广度。
2001年6月起，为了迎接南京大学百年校庆，进一步改善服务环境，对现有的馆舍进行了大规模的改造扩建，2002年百年校庆之际，南京大学图书馆以崭新的面貌，迎接读者。
2002年百年校庆以后，为加快南京大学建设国际一流大学的需要，浦口校区新馆的建设已经列入计划，开始前期准备工作，在不远的将来，南京大学图书馆将会以更为优越的服务环境迎接广大读者。
