位于平安里西大街中间路北，原为诚亲王府。
始主胤禧为清圣祖第二十一子，雍正八年(1730年)受封贝子，并晋贝勒，雍正十三年(1735年)受封慎郡王。允禧能诗工画，有人誉为“远希董源，近接文征明”，自署紫琼道人，有《花间堂集》《花间堂载笔》《紫琼崖诗集》《据经楼诗选》传世。乾隆二十三年(1758年)卒，谥靖。无子，清高宗第六子永瑢继袭贝勒，后晋质郡王，1789年再晋质亲王，故慎郡王府也称质亲王府。永瑢也擅长诗画，通历算，有《九思堂诗钞》传世。1790年卒。
《京师坊巷志稿》中因当时府主为镇国公溥龄，将这里称做龄公宅。 该府东邻果亲王府，西邻护国禅林、慈佑寺，北至前广平胡同。大殿面阔七间，前出丹墀，左右配殿面阔五间，后殿面阔三间，后寝面阔期间，抱厦面阔三间。比果亲王府稍小，论规模在清王府中仍为较大的府宅。1900年八国联军入侵北京，破坏瑞亲王府时，也殃及这里。今中国少年儿童活动中心的中部为其旧址。
