在哈佛求学的3年里，李济写成了一篇长达20万字的博士论文《中国民族的形成》，获得了博士学位。在这篇论文里，李济分析总结中国民族的5种主要成分和3个次要成分。从那以后，中外学人凡论及中国民族及人种问题的，都会引用这本书，这使李济一下子声名大振。
1923年，学成归国的李济应聘到南开大学教授社会学与人类学。着名地质学家丁文江把他推荐给地质学界、古生物学界的一批国内外专家认识，李济由此与考古结缘。1925年，清华筹备成立国学研究院，吴宓为首任研究院主任，王国维、梁启超、陈寅恪、赵元任是研究院所请的第一批教授，李济被聘为特约讲师，讲授普通人类学、人体测量学古器物学和考古学。
清华学堂的学生刚报到时，有人看到一位头戴瓜皮帽、身穿长袍、神情有些萎顿的老人，便悄悄打听：“这大概就是李济先生吧？”其实那位老先生是王国维，在青年学生心目中，研究考古的必是位老先生，而李济那一年才29岁。
1926年10月，李济率队来到山西夏县西阴村做田野考古工作，这次发掘收获非常大，采集到了60多箱出土文物，大部分是陶片。山西夏县西阴村仰韶文化遗址的挖掘是第一次由中国人自己主持进行的田野考古工作。
发掘中最有趣的发现是半个蚕茧壳，壳上有平整的人工切割的痕迹。经专家鉴定，那半个蚕茧壳确实是一种家蚕的茧，因此证明了中国人在史前新石器时代已懂得养蚕。这次发掘之后，李济撰着了《西阴村史前遗存》，这一着作奠定了李济在中国考古学研究中的地位。
1928年，中央研究院历史语言研究所成立。当时的所长傅斯年一开始就定下了两件事：一、成立一个组，以考古学家作为研究中国史的新工具；二、以发掘殷墟作为考古组的第一个田野工作项目。他需要一个合适的学者来领导考古组。最后傅斯年选择了李济，从那时开始，李济的一生和安阳的殷墟发掘紧密地连在了一起。
发掘之初，李济跟所内同仁约定：一切出土物全部属于国家财产，考古组同仁自己绝不收藏古物。
殷墟的发掘工作一直持续了15个工作季，直到1937年中结束。在第三次挖掘时，发现了着名的“大龟四版”，龟版上刻满了殷商时代的占卜文字。1935年，殷墟第11次发掘为期95天，所获极多，出土了牛鼎、鹿鼎、石磐、玉器、石器等多件文物。殷墟大发现震惊了世界，也是李济一生事业的黄金年代。
殷墟发掘印证了商朝的存在，并由此把中国的历史向前推了几百年。李济的学生张光直曾说：“直到今天，我们关于商代的知识很大程度上仍是由李济给我们划定的。”
