郑述祖，字恭文，荥阳开封人。祖羲，魏中书令。父道昭，魏秘书监。述祖少聪敏，好属文，有风检，为先达所称誉。释褐司空行参军。天保初，累迁太子少师、仪同三司、兖州刺史。时穆子容为巡省使，叹曰：“古人有言：‘闻伯夷之风，贪夫廉，懦夫有立。’今于郑兖州见之矣。”
初，述祖父为光州，于城南小山起斋亭，刻石为记。述祖时年九岁。及为刺史，往寻旧迹，得一破石，有铭云：“中岳先生郑道昭之白云堂。”述祖对之呜咽，悲动群僚。有人入市盗布，其父怒曰：“何忍欺人君！”执之以归首，述祖特原之。自是之后，境内无盗。人歌之曰：“大郑公，小郑公，相去五十载，风教犹尚同。”
述祖能鼓琴，自造《龙吟十弄》，云尝梦人弹琴，寤而写得。当时以为绝妙。所在好为山池，松竹交植。盛馔以待宾客，将迎不倦。未贵时，在乡单马出行，忽有骑者数百，见述祖皆下马，曰“公在此”，行列而拜。述祖顾问从人，皆不见，心甚异之。未几备征，终历显位。及病笃，乃自言之。且曰：“吾今老矣，一生富贵足矣，以清白之名遗子孙，死无所恨。”遂卒于州。述祖女为赵郡王睿妃。述祖常坐受王拜，命坐，王乃坐。妃薨后，王更娶郑道荫女。王坐受道荫拜，王命坐，乃敢坐。王谓道荫曰：“郑尚书风德如此，又贵重宿旧，君不得譬之。”子元德，多艺术，官至琅邪守。