在粟裕指挥下，华东野战军打援部队拼全力阻挡住了邱、李兵团，而围攻黄百韬兵团的纵队则前仆后继，浴血奋战，激战至17日，将碾庄圩外围据
点大部攻克。19日晚，华野集中5个主力纵队，对困守在碾庄圩的黄百韬兵团部及附近村庄的8个团进行最后的总攻。激战至22日上午，碾庄圩被攻克。黄百韬率少数随从逃到六十四军军部。
六十四军军长名叫刘镇湘，军衔中将，军部设在一个叫大院上的小村子里。该军和六十三军同属粤系，都是“老广”，和黄百韬较为亲近。
黄百韬和刘镇湘见面后，神情沮丧，脸色蜡黄，坐了很久没有说话。吃了午饭以后，他对刘镇湘说：“我年纪老了，而且多病，做俘虏我也走不动，而且太难为情。我牺牲以后，别人还知道有忠心耿耿的国民党人，或可使那些醉生梦死的人醒悟过来，国民党或许还有希望。你年纪还轻，希望你能突出重围，再为党国做点事。”
这一年黄百韬已49岁，刘镇湘比黄小7岁，尚属42岁的壮年。他对黄百韬说了一些安慰的话，并表示，自己也决不当共军的俘虏，死也要和黄百韬死在一起，共同为“党国”尽忠。他还打开皮箱，把中将大礼服穿了起来，挂上勋章，穿上皮靴，对黄百韬和副军长韦德、参谋长黄觉说：“我们要准备成仁，为党国和总统尽忠。”
然而，蝼蚁尚且惜命。22日下午，黄百韬、刘镇湘等又逃到了六十四军一五六师指挥所驻地吴庄。第二十五军中将军长陈士章、少将副军长杨廷宴等人也逃到了吴庄。
黄百韬一听“吴庄”这个村名，就长叹说：“此吴庄，乃吾葬身之地也！”因“吴庄”与“吾葬”系谐音，黄百韬颇有点迷信。他曾极其悲伤地对杨廷宴说：“这场大战，我有三个不解：一、我为什么那么傻，要在新安镇等待四十四军两天；二、我在新安镇等了两天之久，为什么不知道在运河上架设浮桥；三、李弥兵团既然以后要向东进攻来救援我，为什么当初不在曹八集附近掩护我西撤？”
说罢，黄百韬不住地摇头长叹，说：“不是天灭蒋（介石），而是蒋自灭呀！……”
22日下午4点左右，解放军对吴庄发动猛烈进攻。激战至黄昏，全歼吴庄守敌，生俘六十四军少将副军长韦德和参谋长黄觉。
此时，黄百韬、刘镇湘、陈士章、杨廷宴等人在哪里呢？
黄百韬逃跑途中毙命。有人说是被击毙；有人说他开枪自戕，未死，旁人又补上一枪。尸体运回南京安葬，蒋介石还下令追赠他为上将。死因究竟如何，至今尚是个谜……