广州市市立中山图书馆位于文德路。原为广州学宫旧址。由美洲华侨集资捐款２５万元兴建。林克明建筑师设计，１９２９年１２月动工，1９３３年１０月建成。
该建筑布局紧凑，功能合理。主体建筑设在原高地上，四角尽端以小亭屋顶形式处理。四周采用回廊式，构成一个正方形平面。中央有一个大跨度的八角形大阅览室。正面大厅为重点装饰部分，墙裙与地面用大理石铺砌。两侧房间为管理人员办公室，大楼梯左右两廊为一般阅览室和开架书库，后座二层为书库，二楼前座为研究室和会议室，八角亭回廊为展览廊，左右两廊为一般阅览室。
外观是一座整体方形、中央突出的八角形亭式建筑。主体建筑的周围以中国式的白色栏杆构成正方形的台阶，以红墙绿瓦衬托，具有民族传统形式的风格，古朴雅致，丰富多采。
2002年,该建筑被定为广州市第六批文物保护单位。