天津图书馆是中国创建较早、历史悠久的省级公共图书馆之一，从1908年（清光绪三十四年）创建直隶图书馆至今，已近一个世纪。这是中国发生翻天覆地变化的一个世纪，也是中国近现代公共图书馆蓬勃发展的一个世纪。十九世纪中叶以后，在变法维新和洋务运动的影响下，津邑官绅纷纷兴办学堂。促使对新知旧学各种典籍的大量需求，一些有识之士共识：“近世各国文化日近，莫不以设立学校与图书馆相辅而行。”在这种历史背景下，中国长江以北最早的近代公共图书馆——直隶图书馆诞生了。
清光绪三十三年十月(1907年11月）直隶提学使卢靖（木斋）以“保存国粹，宣传文化，辅助学校教育，增长社会知识”为宗旨，开始筹建直隶图书馆。光绪三十四年五月十一日（1908年6月9日）正式开馆。馆址初设在河北大经路（今河北区中山路）直隶学务公所内。藏书以严范孙先生原陈列在天津教育品陈列馆的1342部、直隶督署下发的1万余卷图书和提学使司请款专购的12万卷图书为基础，继之，严范孙先生又捐赠图书1200余部，又有奉天总督徐世昌等捐赠图书。开馆初期藏书近20万卷（册）。所编《直隶图书馆书目》32卷，全面反映了建馆初期馆藏。
民国二年（1913年），馆址迁至中山公园北部一幢楼房，始有独立馆舍。1914年9月又附设通俗图书馆于东马路。在当时被誉为大江南北第三位的图书馆。1918年9月，馆名改称“直隶省立第一图书馆”。任命严侗（台孙）为图书馆主任。1928年又更名“河北省立第一图书馆”。1937年7月天津沦陷后，馆舍被日本侵略军强占，更名为“天津特别市立第二图书馆”。1945年抗日战争胜利后，又更名为“河北省立天津图书馆”。经清点，仅有中文书十万余册，外文书四千余册。此后，直至天津解放，由于经费拮据，馆业处于停滞状态。
1929年春，天津特别市创办市立图书馆，颁布“市立图书馆计划大纲”，市绅王贤宾热心赞助图书馆事业，廉价出让南开杨家花园住房一所共114间作为馆舍，1931年6月20日举行开馆典礼。1937年天津沦陷后，曾更名“天津特别市立第一图书馆”。1945年抗日战争胜利后，恢复原称“天津市市立图书馆”。
抗战胜利后，天津市热心文化事业的各界人士倡议建立一座规模宏大之图书馆。1947年组成建馆筹备委员会。1948年4月，市政府将原法租界公议大楼拨交天津图书馆作为馆舍，于1948年4月局部开馆。至天津解放前夕，全市公共图书馆仅存下濒临关闭的省、市图书馆各一所和1948年新建的天津图书馆，1949年天津解放后，逐步合并为“天津市人民图书馆”。馆址为承德道12号。
1952年1月，经天津市人民政府决定，由时任市文化局副局长的李霁野兼任馆长。同年7月，任命南开大学教授黄钰生为馆长。
合并后的天津图书馆藏书约计40余万册，经逐步增长至今已达320万册。成为我国馆藏较为丰富的省级公共图书馆之一。解放以来，在采购新书的同时，注意征集地方文献，陆续接受社会各界人士、藏书家捐赠图书，如任凤苞、周叔弢、张叔诚、叶石甫、顾维钧、石景宜等捐赠的大量中外文图书。
1982年“天津市人民图书馆”更名为“天津图书馆”。1991年，坐落于复康路15号，由天津市政府投资兴建，建筑面积3.2万平方米，可容纳藏书500万册（件）的天津图书馆新馆建成开放。
从1949年起至今，在中国共产党领导下的社会主义新中国，图书馆事业受到人民政府的重视，在人力、财力和物力上都给予大力支持，从而使图书馆事业逐步得到恢复、调整和发展。这期间虽然也曾受到“文化大革命”的冲击，但是在中共十一届三中全会以后，天津图书馆得到更快、更好的发展，尤其在建设有中国特色的社会主义改革开放的年代，出现了图书馆历史上最好的时期。1989年和1994年两次被评为全国文明图书馆，1995年被文化部、人事部评为全国文化工作先进集体。在1994、1998年文化部组织的第一、二次全国各省、市、自治区图书馆科学评估工作中，天津图书馆均荣获全国第二名。1999年被文化部评为国家一级图书馆。
