1937年，在殷墟第15次发掘收工后仅18天，卢沟桥事变爆发。已经接替傅斯年担任中央博物院（中博）筹备处主任的李济，负责“史语所”（中央研究院历史语言研究所）与“中博”向西南搬迁之事。
“史语所”在昆明安顿了两年后，因滇越线战事吃紧，又从昆明迁往四川李庄。李庄6年，生活虽然困难，但李济带领着考古组依然坚持考古工作，曾在四川彭山崖墓发掘出一些重要石刻和特殊雕刻，还和四川省博物馆合作，在成都琴台发掘出大量珍贵文物。
战乱期间，李济的两个女儿均因医疗条件太差患病去世，只剩下一个儿子李光谟。之后李济夫妇过继了一个亲戚的男孩，取名“光周”，后来也成为一名考古学家。
1948年内战爆发，许多文物刚从大后方运回南京，还来不及开箱，又要搬到台湾。安阳殷墟文物也在转移之列，李济是这次迁徙的押运人。
当时很多人反对文物搬迁，李济心里也很矛盾，但他第一考虑的是保护文物，他说：“只要文物是安全的，无所谓去哪个地方。”为了文物，李济决定携妻儿迁居台湾，但他的儿子李光谟不愿意，他决定回上海。李光谟当时并未意识到，这一次分离就是永别。
李济到台湾后，很快筹备成立了台湾大学文学院考古人类学系，培养了不少优秀的考古及人类学人才，其中最突出的是张光直。张光直出国留学，成就非凡，38岁升任耶鲁大学教授，48岁当选美国科学院院士，后来又在65岁时获美国亚洲学会终身杰出成就奖，这是中国考古学者获得的最高国际荣誉。
到台湾后的李济多少有些落寞，因为台湾无多少古可考。在晚年行动不便时，他仍然坚持每周拄着拐去看台北故宫里的文物。台湾青铜专家陈芳妹回忆：“在青铜器前，他仔细端详，神情专注，不厌其烦，犹如古生物学家对化石的深入细微。”
1977年，81岁高龄的李济完成了他一生中最重要的综合性学术着作《安阳》，为一生的学术研究划上了句号。两年后，李济心脏病发，在台北逝世。
1995年，李光谟赴台湾把父亲的手稿、信件和资料运回了北京。2006年，李光谟花了8年时间编纂整理的五卷本《李济文集》出版。在对李济资料的整理中，李光谟逐渐理解了父亲对考古的感情，感受到了父亲作为一名考古学家的生命能量。
