中原大战以后,杨虎城率部追击西北军进入陕西,成为地方实力派。蒋介石原本答应杨任陕西省主席,可是后来蒋却另外任命邵力子任陕西省主席,只任命杨虎城为西安绥靖公署主任,由此杨、蒋产生矛盾。到陕西后,杨虎城所部由第7军扩编为第17路军编成如下第十七路军 杨虎城第38军(孙蔚如)17师(孙蔚如兼)第7军(冯钦哉)42师(冯钦哉兼)。抗日战争开始后,1937年7月下旬第38军赵寿山的第17师、第177师的529旅(旅长许权中)、教导团(团长李振西)开赴前线,参加了保定、娘子关、忻口诸战役。其中,第17师与教导团在娘子关战役中,与敌血战九昼夜,予敌以重大杀伤,教导团也付出了重大牺牲,全团伤亡官兵1800多人。529旅在忻口战役正面防守14天,全旅3000多人,伤亡2000多人,其中以共产党员阎揆要为团长的1057团原有200多名共产党员,忻口战役后就只剩下60多名党员了。 1938年7月,38军扩编为第31军团。11月,第31军团又改编为第4集团军,孙蔚如任总司令。下辖第38军和第96军。第38军军长赵寿山,下辖第17师和第55师。第96军军长李兴中,下辖第177师和新编第14师。 1938年7月,孙蔚如部全部开赴晋南中条山抗日前线。这支军队在中条山坚持抗战近三年,先后粉碎了日军的11次大扫荡,其中,以“血战永济”、“六六战役”、“望原会战”最为惨烈悲壮!血战永济中,17师补充团102团团副杨法震、教导团团副魏鸿纪牺牲,教导团三营营长张希文和该营全部殉国。“六六战役”中,177师新兵团有800多名壮士因弹尽粮绝,被日军逼上黄河崖边,高呼口号,集体跳崖,全部壮烈牺牲,无一人投降被俘,谱写了一曲感天动地、气吞山河的生命绝唱。第4集团军有2.1万人牺牲在中条山下、黄河岸边,而日军也始终未能越过黄河,进入西北。 1940年8月,第4集团军为策应八路军发动的百团大战,派出部队在同蒲铁路南段沿线,深入敌后破坏铁路公路。部队出击在安邑、运城、闻喜、夏县一带,先后数十次,打得敌人缩守据点,不敢妄动。 1940年10月,第4集团军离开中条山,调防河南,守备巩县、汜水、荥阳、广武百余里防线。10月2日,黄河北岸日军强渡黄河,进占郑州,第4集团军在荥阳、广武地区与敌展开鏖战,配合友军收复了郑州。在3个月的广武战役中,第17师担任主要作战任务,全师伤亡官兵2280余名。其中102团损失了1个营, 有些连队仅余二三十人,但部队士气依然如故。 1944年4月中旬,日军发动河南战役。第4集团军在巩县以东奋勇阻击,530团坚守虎牢关据点7昼夜。虎牢关之役共毙伤日军2500余名,177师伤亡400余官兵。另外在登汜和韩城镇两次大战中,均予日军以重创。1945年5月,在豫西战役中,96军与日军血战官道口,在交战中,共产党员连长张国华指挥全连向山头冲击,身负重伤,排长余得水带领全排战士与敌冲杀,不幸阵亡,但终将日军击退,保障了关中的安全。 日本投降时,孙蔚如任武汉战区总受降官。在19天中,他负责解除日军武装21万人,接受工厂、仓库等300余所,遣编伪军3个军9万余人。