何遵字思祖，何劭庶兄也。少有干能。起家散骑黄门郎、散骑常侍、侍中，累转大鸿胪。性亦奢忲，役使御府工匠作禁物，又鬻行器，为司隶刘毅所奏，免官。
太康初，起为魏郡太守，迁太仆卿，又免官，卒于家，有四子，何嵩、何绥、何机、何羡。