1922年,正当蒋、陈在溪口度蜜月的时候,蒋介石接到孙中山要他速返广州的电报。陈洁如含泪向毛福梅道别,和蒋介石乘船去上海。在上海,陈洁如第一次见到蒋经国。因此,蒋经国称陈洁如为“上海妈妈”。蒋经国十多岁和蒋纬国一起到上海,先后就读于万竹小学和浦东中学,陈洁如对蒋经国特别钟爱,视同己出。蒋纬国有时也去陈氏住处,称她为“庶母”。在这以后的几年中,每逢蒋介石从广州回到家乡时,总是带着陈洁如。她同时以秘书的身份,随侍左右。毛福梅以不变应万变,对陈洁如也十分礼让。
陈洁如是个知书识礼的人,对毛福梅很尊敬,对孩子也很疼爱,不时买些衣物玩具馈送。于是孩子们非常喜欢这位陈家姆妈。1923年2月18日,蒋介石接到孙中山从香港发来任命他为大元帅府行营参谋长的函件,于4月20日抵广州,同年8月14日,蒋介石率团去苏联访问,蒋本来极力劝陈陪他去,因陈拒绝去苏联,蒋只好写信倾诉衷情。蒋回国后回奉化写出访报告,翌年就任黄埔陆军军官学校校长。这时,蒋、陈才有一个安定的家。毛氏和姚氏都在冷宫,而陈洁如独享夫人的风光。
早在蒋、陈打得火热之际,蒋“在国父宅中”,认识了宋美龄,得陇望蜀,心猿意马,见异思迁,当时早有人责蒋“好色”。用中国的道德标准去衡量,蒋介石的行为不仅确乎为道学先生所鄙夷,也为普通老百姓所不齿。然而,蒋为宋倾倒,并非因姿色迷人那么简单。蒋、宋联姻的原因,蒋介石主要出于政治的动机。蒋介石为了达到稳住陈洁如,不让她干扰自己大事的苦心,在1926年的夏季曾在孔祥熙宅安排“鸽子宴”请陈洁如和宋家姐妹见面,由宋霭龄吹风,试图让宋美龄取代陈洁如的地位。1926年当蒋介石在南昌再度陷入困境之时,宋霭龄为了孔宋利益,向蒋再次献计娶宋美龄为妻,以争取西方支援。蒋只好将这桩政治婚姻告诉陈洁如,陈洁如差点昏过去,一时说不出话。
蒋花言巧语让陈出洋进修5年,回来再说,否则,蒋以死相胁。在蒋的花言巧语下,陈洁如只好表示退让。陈洁如和蒋介石破裂,是1927年8月,蒋东渡日本前夕。8月1日晨,蒋单独来到陈洁如母亲家,以作告别。蒋让陈与张静江女儿一起坐船去美国。陈洁如开始不答应,蒋苦苦恳求,以5年为限。蒋介石说:“洁如,你必须远去美国,这是宋霭龄的条件之一。洁如,我明知这样做是过分了,但你如留在上海,这个全盘交易就会告吹。你还不了解我的苦心吗?”在陈洁如母亲的斡旋下,蒋介石发誓以5年为限,必定恢复与洁如的婚姻关系,否则天打雷劈,放逐海外,永不回来。就这样,蒋介石为了政治目的,下定决心,和陈洁如一刀两断,好和宋美龄结为夫妻。蒋陈婚姻,只有6年时间,大部分岁月在南方的广州度过。他们的关系开始于上海,亦结束于上海。