1903年1月出生,湖南长沙人。1920年加入中国社会主义青年团。1922年转入中国共产党。1921年、1927年赴前苏联学习。
1924年回国后,任国民革命军第二军六师党代表。参加了北伐战争。1927年赴苏联入列宁格勒军政学院学习。1930年回国。
土地革命战争时期,历任闽粤赣军区参谋长兼政治部主任,中央军事政治学校校长,中国工农红军第五军团政治委员,建黎泰警备区司令员兼红十一军政治委员,闽赣军区司令员兼红七军团政治委员,红三军团参谋长,中共陕甘宁省委军事部部长兼红二十九军军长,中共中央军委参谋长。参加了长征。
抗日战争时期,历任八路军后方留守处主任,陕甘宁留守兵团司令员,陕甘宁晋绥联防军副司令员。
解放战争时期,历任东北民主联军副总司令、参谋长兼南满军区司令员,东北野战军第一兵团司令员,第四野战军副司令员兼第十二兵团司令员、政治委员。
建国后,历任湖南军区司令员,中国人民解放军海军司令员,国防部副部长。
是中共第七届中央候补委员,第八至十一届中央委员,1982年当选为中共中央顾问委员会常委;第三、四届全国人大常委委员,1978年当选为第五届全国人大常委会副委员长;是第一、二、三届国防委员会委员。
1955年被授予大将军衔。同年获一级八一勋章、一级独立自由勋章、一级解放勋章。1988年获一级红星功勋荣誉章。
撰有《肖劲光回忆录》。
1989年3月29日在北京逝世,终年86岁。