羊头山在长治县、长子县和高平市交界处，海拔1297米，危峰秀拔，势凌霄汉，因山之巅有羊头状巨石而得名。此山似乎是炎帝部落的大本营，仅炎帝遗址就有神农城、炎帝行宫和炎帝陵等，历代典籍和当地志书对此多有记载。北魏《风土记》载：“神农城在羊头山，其下有神农泉，山有古城遗址，北有谷关，即神农得嘉谷处。”炎帝行宫在羊头山故关村，庙院门楣条石上刻有“炎帝行宫”四个大字。庙殿规模可观，庙内和院内分别竖有明清时的五通石碑，记载着几次重修炎帝行之事。炎帝陵碑在羊头山下换马石村东南的庄里村，原镶在五谷庙院东厢房一面墙内，当地干部揭开层层遮盖物，洗去碑的尘方才露出真容。碑身高95厘米，宽66厘米，座基长90厘米，碑面正中刻有“炎帝陵”三个大字，为明成化年间刻。相传炎帝就是在此尝了断肠草气绝身亡的。
羊头山上有石窟40余洞，均建于北魏太和所间（477－499年），北齐、隋、唐间屡有凿造，今殿宇残坏，其址可辨，石窟造像尚存。洞窟大小不等，其中第六洞最大，面积约10平方米，窟内长方形，洞口上部雕印度尖拱状，内部龛面整齐，龛壁雕一佛二菩萨，面形丰满，衣纹流畅。洞外雕许多小龛，有佛、菩萨、天王、供养人等。形制各异，雕工自如，按其造像风格应是唐窟。山腰千佛殿有碑一通，高约6米，四面雕满佛像，中心一龛作火焰形，内置坐佛一躯。山巅山腰雕石塔6座，唐制，高度4－6米不等，平面方圆两种，高者七层，密檐式；低者两层，楼阁式。形制古朴，手法简洁，为他处所少见。
