他感到十分愤懑，决心以辞职来换取清华基金的安全与独立，和清华隶属系统的正轨化(即改属教育部)。他认清这两个问题要一道解决。
4月11日，罗家伦提出辞职。在此之前的两天，他亲自拟了一个一万多字的长篇谈话，把清华基金的积弊，根据会计事务所查帐的报告，一齐宣布出来，又把清华在共管制度下的困难，也一齐宣布出来，寄给上海各报，请他们在辞职呈文发表的那一天，同时发表。上海各报果然在那一天全部发表了。这一招给外交部以沉重的打击。
罗家伦在离开北平时和美国公使马慕瑞谈妥，清华基金不归保管委员会管，也不归清华大学校长管，而交给中美人士共同组成的有良好信誉的中华教育文化基金董事会代管。后来在会议上，顺利地通过了这一方案。清华的基金从此得到安定和增长。
关于清华改归教育部问题，按正当手续应当在行政院会议上决定，罗家伦担心教育部和外交部两部部长不肯正面冲突，拟出一个调和的办法，他一不做二不休，把这一问题拿到两部部长都不出席的国务会议上去。事先请国务委员戴季陶和陈果夫以他们的名义向会议提案，要求将清华大学直接归教育部管辖，他又活动了蒋介石及孙科等人，得到他们的支持，因而在1929年5月第28次国务会议上顺利通过了。
这次辞职后，罗家伦回到杭州省亲，同时游览西湖美景。在杭州他遇见一位藏书家杨老先生愿意出让丰华堂的全部藏书，其中善本书极多。他想把这批书全部买下来，以充实清华图书馆，于是电请图书馆主任洪范五南下，去商量价钱购书。结果是以三万四千元买下了三万七八千本书的大收藏，丰华堂杨氏藏书至今大部分还在清华大学图书馆收藏，这批书是清华大学图书馆最珍贵的大批古籍藏书。
1928年5月17日，罗家伦接到国民政府的第二次慰留令，6月12日回到清华复职。
罗家伦对清华做了不少重大贡献，但是他与本校的教师、学生关系都不大好。他带来的清华大学组织条例，大大地削弱了教授会、评议会的权力。在罗家伦本人以及国民政府的立场上来看这算不上什么过失。但是清华以前是中国教育系统之外的一所留美预备学校，师生受自由主义思想的影响很深，首先是损害了在本校教授中业已形成并运作的教授治校传统，罗家伦虽然自称在国民党内不属任何派别，但他毕竟带有浓厚的政治色彩，而且有意借重这层关系。这是历来主张学术独立于政治之外的清华人无法容忍的。他来清华之后，的确给清华吹来了一股强劲的“革命”气息，如他本人在校着戎装，在学生中推行军训等都是不得人心的。军训持续半年以后实在无法继续下去，只好作罢。罗家伦当时三十出头，年轻气盛，好展才华，给人的印象不大好。这些因素都是清华师生不欢迎他的原因。当然，直接促使罗家伦去职的重要原因是1930年中原大战蒋介石失利，阎锡山控制华北，罗家伦是国民党人，失去了靠山，不得不走。
