传说当年虢太子病危，后因扁鹊在这里使虢太子起死回生，虢太子为报恩德在此建卢医庙（至今卢医庙旧址尚存）。
历史沿革卢医庙，也曾改名“烈士祠”。它先因祭祀战国名医扁鹊而香火鼎盛，后因辟有烈士祠，纪念辛亥革命中为国捐躯的郑州烈士，而受到后人的敬仰。烈士祠的倡议者，就是民国著名将领冯玉祥。
民国十六年(1927年)6月，武汉国民政府北伐军唐生智部与冯玉祥的国民革命军第二集团军，击退奉军后，在郑州胜利会师。不久，国民政府任命冯玉祥为河南省主席，他任职虽在当时的省会开封，司令部却设在郑州(地址在菜市街今市三院附近的浸礼会)。冯上任伊始，即发出倡议，拟在郑州建立辛亥革命烈士祠。因当时中原一带战事不断，民众生活极其贫困，百业待兴，资金匮乏，所以只好因陋就简，在对卢医庙大殿稍加修葺，即辟为“烈士祠”，并于1928年春举行了首次祭典。由时任郑州市长的刘治州主祭，参加祭典的各界人士逾百人，冯也派专员赴郑祭祀。祠内供奉牌位20多座，多为壮烈牺牲的郑州籍革命党人。如名噪一时的海贡琳、金承绪、贾宗伊三人，都是为推翻帝制，建立民国而英勇就义的。所以他们的牌位高二尺余，宽一尺，红漆金字，位列中央，分外醒目。其余的约20位，他们的牌位较小，多为白底黑字，列在三位旁边。这座烈士祠，在抗日战争前后，确实为教化郑州民众、匡扶正义，起到了一定的宣传作用。
1929年，烈士祠改为县立女子小学校址，烈士祠遂迁至书院街路北的天爷庙正殿。第二年，又因天爷庙改作县立女子职业学校校舍，而迁至县衙门前的皮场庙(也称土地庙)。抗日战争中，为祭慰阵亡的抗日将士，又增设新牌位若干，并改名为“忠烈祠”。同时在皮场庙门前置大汉奸汪精卫夫妇铸铁跪像，利用正反两面典型，宣传爱国思想，激发民众抗日热情。只是由于郑州两次沦陷，两次收复，惨遭日军数次破坏，忠烈祠几成废墟。抗战胜利后，郑县政府及参议会也曾提出择址重建，终因选址困难，财力拮据，加之郑州不久解放而胎死腹中。从此，这座历尽沧桑的烈士祠，在人们的视野中永久消失。
