牛首山是一座闻名遐迩、历史悠久的名山，海拔240米，位于南京南郊，距中华门10公里，逶迤于长江和外秦淮河之间的丘陵地带。北连翠屏山，南接祖堂山，山势均力敌奇特，状如牛头双骑，故名牛首山。 明清年代，牛首山遍种桃树，阳春三月满山桃花争艳，又有大量洁白的绣球花点缀其间，美不胜言，当时南京人倾城而至观赏桃花，盛况非寻常节庆可比。牛首山天工造化，自然景色极佳。阳春三月，茂林修竹，桃花争艳；黄昏时分，暮色苍茫，云蒸霞蔚，“牛首烟岗”，令人沉醉。“春牛首，秋栖霞”，古风依然。而著名的航海家郑和就葬于此地.1433年（宣德八年 癸丑） 62岁 郑和于归国途中，积劳成疾，在古里（今印度卡利卡特）病逝。七月船队回国，宣宗赐葬此地.
东晋丞相王导称此山为“天阙”，所以牛首山又叫天阙山。早在梁朝，司空徐度在此兴建寺院，取名佛窟寺。唐代改名长乐寺。南唐后主李煜时又改名为弘觉寺，塔便因寺得名。宋、元、明时，寺院名称屡易，到明正德年间才又恢复原名。清代，为避乾隆皇帝之讳(爱新觉罗弘历)，将寺名改为宏觉寺，塔也改称宏觉寺塔。始建于唐大历九年（774年）的宏觉寺塔，相传是唐代宗李豫为“感梦而筑”，后毁，现塔身是明初重建。宏觉寺塔塔高25米，七级八面，正中有拱形假塔门，四隐四现；门顶两侧各有小窗。塔顶铁刹和各层腰檐均已损坏，但塔身仍旧完好。是南京现存最雄伟的砖制仿木结构楼阁式古塔，登临塔上，南郊风光一鉴无余。
唐太宗贞观年间慧能和尚来牛首山修行，法融曾在此谈禅，创立了牛头宗，这里便成了佛教南宗的发祥地。据《金陵梵刹志》记载：塔上的碑铭是由唐朝著名诗人刘禹锡撰写的，可惜这块碑今不存。
岳飞抗金故垒起源于韩府山，沿山脊南去直至牛首山主峰北侧，残长达4200余米。故垒完整处底宽2.5米，高约1米，垒砌整齐。 南宋建炎四年（1103年）5月，岳飞在牛首山设伏，岳家军就地取石，垒筑工事，伏击金兵。牛首山大捷后，乘胜追击，将金兵驱逐过江，收复建康（今南京）。
郑和墓位于牛首山南麓，南北长300米，东西宽60米，高约8米。墓按伊斯兰风格修建，整个墓形是“回”字形，墓前台阶有四组7层28级，寓意郑和7次下南洋，历时28年，遍访40多个国家和地区。
牛首山森林公园内除原有的牛首山古塔、南唐二陵、郑和墓、摩崖石刻、岳飞抗金故垒、观音洞、观音阁等古迹外，近年来又发展建设了祖堂山的宏觉寺、李瑞清墓、南京市苗圃基地、国际马术俱乐部等新的观光点。
