6月28日天明时分，日军第68师团长佐久间为人中将召集各部队长协商行动方案，忽然有几颗迫击炮弹飞了过来。佐久间为人在运送途中死亡，其他重要部队长均负重伤，致使日军第68师团的战斗力暂时瘫痪。当时，衡阳守军28团迫击炮连连长白天霖正是在阵地里观察时发现了日军，当即命令全连8门炮一齐开火，全部命中目标。
日军对衡阳的攻击已进行20多天了，仍然没有太大的进展，经过几番激战，日军的尸体填满了守军阵地前的山体峭壁，工事上的射击孔几乎被日军尸体堵住，想要继续作战，得先把敌人的尸体推开才能看清前面的情况。此时，漫山遍野的日军再次卷土重来，这回他们不用再架云梯了，而是踩着同伴的尸体一步步向守军阵地逼近……
衡阳保卫战打响后，方先觉面临着极大的压力。虽然重创了日军，但自己部队的伤亡也非常惨重。衡阳已是一座孤城，兵员、弹药、粮食无法得到补充；而远在长沙的日军第11军司令官横山勇的日子也不好过，他遭到了上级的痛骂。气急败坏的横山勇亲自率领另外的3个师团迅速向衡阳靠拢。日军集结了5个师团、各种火炮100余门、炮弹4万余发，于1944年8月4日开始了第3次总攻击。此时，双方已经血战44天了，战斗悲壮而惨烈。
1944年8月8日，衡阳保卫战持续到第48天，方先觉给蒋介石发去最后一封电报，末尾写道：“来生再见！”接着拔枪准备自尽，但被身边副官拉住。最终，方先觉和身边官兵被日军俘获。
历时48天的衡阳保卫战终因寡不敌众而以衡阳的陷落宣告结束。但它却极大地鼓舞了中国军民的抗战士气。据美国国会图书馆记载：衡阳保卫战，10万以上的日军包围了1.7万名中国军人。当中国军队在衡阳击败日本的第二波进攻并击毙2.5万日军之后，日本首相东条英机倒台。经48天血战之后，衡阳于8月8日陷落。日军死伤超过7万人，其中4.8万人被击毙；中国死伤1.5万人，其中7400人捐躯……
衡阳守军和衡阳人民用鲜血和生命谱写了一曲极其悲壮、惨烈的豪歌，赢得了中外人士的高度赞誉。毛泽东亲自为延安《解放日报》起草的社论高度评价“守衡阳的战士们是英勇的”；《大公报》以“感谢衡阳守军”、“衡阳战绩永存”为题连续发表社论，赞扬衡阳保卫战。当时的国民党政府也因此授予古城衡阳“中国抗战纪念城”的称号，并建塔纪念。
