张天云同志1913年出生于湖北黄安（今红安）觅儿区周家田村一个贫苦人家。小时帮人放牛，后逃到武汉帮工。
1928年张天云回乡投身革命，被选为乡苏维埃委员，次年参加红军，1931年加入中国共产党。1933年张天云任红二十五军七十三师连政治指导员，长征到陕北，参加了劳山、榆林桥、直罗镇等战斗。1936年参加东征，在施庄战斗中负伤，同年12月任红十五军团七十八师二团政委。
抗日战争初期，张天云任八路军一一五师三四四旅六八八团二营教导员，参加了平型关战斗。1938年任六八七团三营营长，参加张店、灯甸等战斗。1939年10月，张天云任六八七团团长，率部多次参加反“扫荡”战斗，并痛击阎锡山部，争取阎军骑兵十四旅保持中立。
1940年张天云部进入冀鲁豫边区，配合当地抗日武装，歼击顽固派石友山部。不久南下，与新四军一部进军豫西，开创新根据地。后率部越津浦路东进，于洪泽湖边歼秦庆材部。旋进军淮宝地区，平息土匪和顽固分子的叛乱。同年9月，为策应新四军进行黄桥决战，率部于阜宁歼韩德勤主力二旅一部，开创盐阜区根据地。
l941年张天云部编入新四军三师，在反“扫荡”战斗中负重伤，愈后任八旅副旅长兼盐阜军分区副司令员，后任八旅旅长。
1945年11月，张天云率部进入东北，在洮南地区连续作战，平息土顽叛乱。
1946年，张天云参与兄弟部队配合攻克长春，随后南下参加四平保卫战和临江保卫战。
1947年3月，张天云任东北野战军第六师师长，率部解放承德、昌图、獐武等城镇。
1948年张天云任第八纵队副司令员，率部参加辽沈战役，担负锦州主攻任务，在合围廖耀湘兵团时，插入敌后，断其退路。此后，挥师入关，参加平律战役，3分钟突破天津民权门，激战终日，俘国民党军近3万人。后南下参加衡宝、广西等战役。
l950年张天云任第十二兵团军长，率部肃清广西南部土匪。同年入南京军事学院学习。1952年，张天云任四十七军军长，率部赴朝鲜作战，组织指挥攻克老秃山等战斗，后任中国人民志愿军十九兵团副司令员。回国后任福州军区副司令员、总后勤部副部长。
1955年，张天云被授予中将军衔，先后被选为中国人民政治协商会议第四、五届全国委员会委员，中国共产党第九届中央委员会委员。
1980年，张天云在京病逝。
