早年间济南老城的南门名舜田门，是因为古史称大舜在历山耕田的缘故。历山又曾名舜耕山和舜山，只是到了唐朝以后才俗称千佛山的。
舜井的事迹，见于《孟子》等古籍。据载，大舜年幼丧母，后母与弟弟多方迫害他。他们骗大舜淘井，然后落井下石，幸亏井下石壁有溶洞通外，大舜得以逃生。然而大舜也因此发掘出一处甘泉，人们称之为舜泉，也叫舜井。
舜泉在历代正史中都有记载，泛称其在历山之下，唐代的记载才明确说它在此处。宋代习称它为舜泉，并由著名文学家欧阳修特作《舜泉诗》，并由苏轼书写立碑，成为著名的景观。舜泉的形状多次变更，唐代曾在泉上砌成两个井口，后来仅留一井。现在井口上挂着一条铁链。传说这是大禹治水时降伏了一条破坏河道的蛟龙，锁在井内，并说待到铁树开花时才释放它，这一传说有可能是当年舜庙中的道士们炒作的。
舜井后有院落，称舜祠，或称舜庙。由丘处机赐名为“迎祥宫”。有石碑为考。
舜井原在南门大街的舜庙中。舜庙在大街之西，院落宽宏，殿宇巍峨，满院松柏苍翠，曾被誉为“松韵南熏”，列入济南十六景之一。庙内有元代济南状元、史学家张起岩撰文书写，由著名文学家张养浩额的迎祥宫石碑，因是济南两大乡贤合作的珍品，被誉为济南镇府之宝
