1915年出生于新县戴嘴乡黄湾村一户贫苦农民家庭。7岁就跟着父兄放牛、砍柴，10岁就学耕田。1930年春，中国工农红军在他的家乡开展了革命运动，建立起苏维埃政权。黄光霞参加了赤卫队，后又加入了中国共产主义青年团，不久参加了红军，留在军部任战士。
1931年1月，红四军成立，黄光霞分编到第十师三十团二营，先后任通讯员、通讯班长、排长等职。参加过著名的苏家埠、商潢、黄安等战役和一、二、三、四次反“围剿”斗争。
1932年秋，在鄂豫皖根据地第四次反“围剿”斗争中，他参加了冯寿二、七里坪、扶山寨等保卫战和阻击战。后随部入川陕开辟根据地，1933年4月，黄光霞转为中国共产党党员。同年9月，他被编入红三十军军部特务营，任一连指导员。1934年2月升任特务营政委，参加粉碎四川军阀刘湘组织的“六路围攻”战役。1935年1月，他被编入红三十一军九十二师二七九团，任三营营长。参加了长征，1937年5月，黄光霞调入援西军随营学校学习。
抗日战争开始后，任该校二营营长。9月，他被调入八路军一二九师三八五旅任一团副团长。1939年2月，任八路军东路纵队第八支队二团团长，在3个多月的“百团大战”中，歼灭日军一个小队、缴获钢炮一门。荣获一二九师“百团大战”奖章一枚。1941年9月，黄光霞调任太行军区新编第七旅十九团任团长，他率部挺进冀南。时逢日军对太行山区抗日根据地进行扫荡。黄光霞指挥对敌发起枣强县娄子镇歼灭战。击毙日军27名，俘虏伪军70余人。割掉敌人冀东南的一个大毒瘤。
抗日战争胜利后，1945年11月，黄光霞担任冀南军区第五军分区第一副司令员。1948年2月调任华北军区第十四纵队四十二旅旅长，参加了冀南解放战争，挥师解放了冀南数十个城镇及乡村广大地区。1949年5月出任衡水军分区司令员，指挥部队肃清残余的国民党反动势力，建立了人民政权。战争年代，他4次负伤，被评为三等甲级残废军人。
新中国成立后，1951年2月，他担任华北军区军事运输部部长，后任河北军区沧县军分区司令员。1955年9月被授予少将军衔，10月调任山西省军区副司令员。荣获国家二级八一勋章，二级独立自由勋章，二级解放勋章。1984年6月按副兵团职离职休息。1988年荣获中国人民解放军一级红星功勋荣誉章。于2002年2月17日在北京逝世
