1928年9月18日，罗家伦就任清华大学首任校长，发表题为“学术独立与新清华”的就职演说。他对清华的设计是，“我们的发展，应先以文理为中心，再把文理的成就，滋长其他的部门。”在就职演说中，他还说:“我想不出理由，清华的师资设备，不能嘉惠于女生。我更不愿意看见清华的大门，劈面对女生关了！”清华大学在罗家伦手里终于实现了男女同校。
罗家伦认为“罗致良好教师，是大学校长第一个责任”，为了提高清华的教授水准，他采取了重发聘书的措施。1928年10月29日送出教授聘书18份，为期一年。原来学校有55名教授，这就等于解聘了37人。与此同时，他延揽了一大批学有专长的著名教授，如历史学家蒋廷黻，政治学家张奚若、萧公权，哲学史家冯友兰、化学家张子高等等，多达几十人。这些人的到校，大大增强了本校教授阵容。十多年后，罗家伦在贵阳清华同学会的演讲中提到这一点时还特别得意，他说；“我心里最满意的乃是我手上组织成功的教学集团”。清华大学的梅贻琦校长有一句名言:大学者，非有大楼之谓也，有大师之谓也。而30年代清华黄金时代的名教授大多数是在罗家伦任上聘请来的。
有些名教授，是罗家伦亲自请来的。据说罗家伦亲自到天津南开大学去请蒋廷黻，蒋廷黻不是特别乐于离开南开，但蒋廷黻若是不答应去清华，罗家伦便坐着不走，熬了一夜，蒋廷黻终于答应了。
罗家伦的另一个很大的贡献是废除董事会，使清华改归教育部，并整顿基金。这三件事实际上是相互关联的。清华原来不归教育部而归外交部管辖，国民政府成立后，清华名义上归外交部和大学院共管，董事会由两个主管机关派人数相等的成员来组成，清华基金的保管在北洋政府时代是由外交部总长、次长和美国公使三个人组成的，国民政府成立后改为外交部总长、大学院院长、美国公使三人组成。基金保管的机构还在外交部手里，大学院院长蔡元培一贯以君子待人，并不去争。罗家伦在就任清华校长之前，曾随北伐军北上，他当时的职务是战地政务委员，并代表大学院兼管该会教育处。该会可以代表中央接收机关，调阅档案。1928年夏初，他进入北平后发现了汤姆生会计事务所查清华基金帐目的报告。其中陈龙烟铁矿的股票20万元，会计师估计只值大洋一元。其余的这类废纸还很多，都抵了基金的现款。清华的基金在外交部管理者的挥霍、投机、公债生意之下损失极多，其帐目长期以来是一笔糊涂帐。1929年4月，罗家伦到南京开董事会时，提出自己的行政报告和下学年扩充计划，结果是件件被否决。
