山东省图书馆创建于1909年（清宣统元年）。是我国十大图书馆之一，以历史悠久、馆藏宏富而著称。据《山东创建图书馆记》载，山东提学使罗正钧于省城旧贡院东北隙地创建图书馆仿浙江宁波范氏“天一阁”旧制， 院内古木假山，曲水拱桥，极为风雅别致，人称“历下风物，此为最胜”。
经过近一个世纪几代人的呕心沥血，艰苦奋斗，辛勤访求，藏书规模日趋宏大，特色日趋鲜明，截止2004年底，现馆藏文献518万（册）件，开成了具有鲜明特色的系统的藏书体系。其中轻工、医学、哲学等门类的收藏已达研究级水平，而齐鲁方志专藏、海源阁专藏、易经专藏、山东革命文献等收藏为海内翘楚。齐鲁方志海内现存约600种，而该馆馆藏528种，善本58种，《（万历）兖府志》则为海内孤本。海源阁专藏计2280种32000册，约占海源阁全部藏书的三分之一，并有较多名人手迹，如林则徐、翁同书、吴式芬、钱仪吉、许翰等人的书札。该馆收藏易经文献1317种，总计2205个版本，近万册。另外，该馆收藏的《唐人写经卷》、蝴蝶装宋刻《文选》、巾箱本宋刻《万卷菁华》、蒲松龄手稿《聊斋文集》、王士祯批校《昆仑山房集》稿本等均为传世珍品。
馆藏期刊涵盖各个学科，基本形成了一个具有特色的综合性馆藏报刊体系。其中辛亥革命时期的山东独立同盟会机关报《齐鲁公报》、原中国共产党渤海区委机关报《渤海日报》、胶东区委机关报《大众报》等资料文献弥足珍贵。
馆藏外文书刊则以轻工、化工、电子技术、环境保护、医药卫生方面的文献为特色，如美国《化学文摘》从1907年收藏至今，《日本特许公报》从60年代初收藏至今，还有《美国专利文摘》、《世界专利索引》、《美国工程索引》都具有很高的研究和开发利用价值。
山东省图书馆作为国家举办的综合性公共图书馆，是社会主义科学、教育、文化事业的重要组成部分，是向社会公众提供图书借阅和信息咨询服务的学术性机构。他们坚持“一切为了读者”的指导思想，利用丰富的馆藏，通过阅览、外借、课题检索、解答咨询、信息服务、翻译、举办展览、报告讲座等多种形式为读者服务。现有对外服务窗口44个，每周开放73.5小时，办理各种借书证12个，日平均接待读者近五千余人次，并与日本、朝鲜、美国、英国、香港等国家和地区建立了文献交换关系。
党的十一届三中全会以来，随着改革开放的深入，图书馆事业的发展进入了快车道。近年来，尤其党的十四届六中全会以来，山东省图书馆坚持“以人为本，读者第一”的服务理念，深化改革，内抓管理，外树形象，打破传统的思维定势，更新观念，统一思想，结合自身的具体实际，确定了建设国内一流图书馆的奋斗目标。推行了一系列的措施，以满足改革开放和时代的需要，推动社会的文明和发展，为两个文明建设服务。新开了畅销书阅览室、电子声像室、国外工艺美术阅览室，电脑图书阅览室、港台资料阅览室及读者书店、咨询服务部等，丰富了图书馆的服务内容，方便了读者，所有这一切服务工作，能够使广大读者高兴而来，满意而去，因而在社会上产生了良好的影响。利用高科技手段，全面推进图书馆现代化。现代社会的科学发展一日千里，高科技手段的普及及应用使图书馆从观念到服务方式都发生了巨大的变化。山东省图书馆以此为契机，广泛利用先进技术，促进图书馆的改革和发展，从而丰富馆藏，简化工作环节，减轻劳动强度，深化服务层次，提高服务质量和水平，使读者能更及时、准确、快捷获取信息。目前，中外文图书书目数据库已建成；网上的馆际互借和学术期刊检索初具规模；采访、编目、流通、报刊、外文、特藏等部门已实现微机管理；利用缩微技术保护珍贵文献也取得可喜成绩……使山东省图书馆向全面现代化迈出了坚实的一步，取得了可喜的成绩。先后荣获“全国文化先进集体”、“读者喜爱的图书馆”、“山东省职业道德建设十佳单位”和省级“精神文明单位”等荣誉称号。
世纪之交，焕发勃勃生机的山东省图书馆挑战和机遇并存，希望与辉煌同在。在省委、省政府、省人大，省政协和文化教育主管部门的关怀和领导下，一个全省文化系统建国以来，最大的投资项目，占地６５亩，建筑总面积５万平方米。新馆已建成并于2002年10月正式对外开放。
山东省图书馆新馆位于济南高新技术开发区，于1994年动工兴建。整个工程分两期进行，第一期工程综合阅览楼，建筑面积为35830平方米，投资11048.1万元。主体建筑为六层中空式，内部全部采用大开间柱网结构，柱网间距7.2米，每层面积自2000余平方米至6000余平方米不等。建筑采取模数化设计，气势恢宏而结构紧凑，坚实厚重而不失俊雅，它是齐鲁文化的现代象征。二期工程书库楼共12层。
新馆适应现代信息化、开放型图书馆的要求，开展多方位、深层次的服务。首先是依靠现代化计算机网络设备，全面实现业务工作及办公自动化。对图书采购、编目借阅、目录信息查询、信息咨询服务实行计算机管理，逐步建立内容丰富、精确高效的馆藏书目数据库、二次文献数据库和全文数据库。其次是在图书馆的管理和服务上完成由封闭型向开放型的转变。对图书报刊文献的借阅全面实行开架管理，开架借阅室由以前的2个增加到8个，开架图书由以前15万册增加到150万册以上。开放各类阅览室、研究室35个以上，读者阅览室座达2000个以上，开展服务的项目大大增加，极大地方便读者，满足各层次读者的需要。
在新世纪的曙光中，山东省图书馆正焕发出灿烂的光辉，以其优雅的环境，优良的设施，优质的服务，现代化的管理手段，弘扬着人类璀璨的文明。它是我们每个公民终身的学校，它将让我们美好的生活更加丰富多彩，它是信息时代的知识殿堂，为“文明山东”将做出更大的贡献。
