11月6日，广西战役打响。中国人民解放军四野第十三兵团沿黔桂边境运动，切断了国民党军南逃云南、贵州的退路；二野第四兵团和四野第十五兵团进驻广东的茂名与信宜地区，阻止了国民党军企图由雷州半岛逃往海南。四野第十二兵团则牵制国民党军队，待其余两路完成迂回包围后，即由北向南夹击。
很快，重庆郊外炮声隆隆，解放军兵临山城。
阎锡山再也没有什么扭转时局的豪言壮语了，他带着“行政院”大小文武官员跑到了成都。
12月初，中国人民解放军一举攻下贵阳、遵义后，兵分三路，直指成都。
眼见大势已去，12月8日下午，阎锡山率“副院长”朱家骅、“总统府秘书长”邱昌渭等人，在一片凄风愁雨中，乘专机离开成都，飞往台北。阎锡山到达台北后的当天，即在寓所召开新闻发布会，正式宣布“国民政府”自即日起移台办公。
自此，国民党在大陆的统治彻底结束。
台北郊区的菁山，种树养花，着书立说
阎锡山刚到台湾，颇有几分卧薪尝胆、卷土重来的意味。他频频召开新闻发布会，简述来台后的施政方针，并多次发表演讲，总结失败教训，批评国民党内的不团结，决心立足台湾好好干一番“事业”。
殊不知，这个时候，蒋介石已在重新考虑人事上的安排。
蒋介石的用人政策，是以我为中心，顺我者昌，逆我者亡。历史上，阎锡山曾几次倒蒋，甚至在中原大战中与蒋直接对垒。蒋对他一直心存芥蒂。但考虑到国民党刚到台湾，百废待兴，一切以稳定为好，于是去台之初，对阎还比较客气。
但阎锡山有自己的个性，自任了“行政院长”后，他方知道自己这个“院长”，看似权力很大，其实是一切以老蒋的意见为是。这种仰人鼻息的生活，阎十分讨厌，但也无可奈何。
尽管如此，阎锡山还是敢说敢做，他到处发表讲话，痛斥国民党的腐败无能，指责就是国民党的腐败才将大陆拱手相让给共产党，同时对国民党内部帮派之间的矛盾斗争十分不满。对国民党一败再败的战略指导思想，更是大加责难。
阎锡山的讲话，尽管是一片苦心，却处处刺到了蒋介石的痛处。这些话如果让老蒋本人来讲，一点事也没有，而阎却毫不顾及蒋的面子，句句话带刺，这就使蒋感到难堪。于是，马上换掉阎的想法很快就在蒋介石脑子里形成。
这时，李宗仁远在美国，按照所谓“宪法”，“总统”、“副总统”缺位时，应由“行政院长”代行其职权。这就是说，阎锡山在台湾就是绝对的权威。但蒋介石早就把这些所谓的“法统”丢在脑后，直接过问“行政院”的人事。