胡宗南回台湾的第二个月，即1953年的8月，奉命进入台湾“国防大学”学习。这时，胡宗南已58岁。胡自20年代黄埔军校毕业后，一直带兵打仗，戎马多年没有机会读书学习，这次解甲入学，胡宗南认为机会难得。他戴着老花镜，捧着书本，学习十分认真。
胡宗南一边学习，一边照料家庭。这年，妻子叶霞翟又身怀六甲。胡宗南已有二子一女，虽然仕途不尽如人意，但家庭生活十分幸福。
1954年2月，胡宗南从“国防大学”毕业了。他仍没有实际职务，在家赋闲读书。胡是个不甘寂寞的人，他常常邀请一帮昔日僚属来家喝茶聊天。
胡宗南身体健壮，可能是无官一身轻，他的心情很好。这年的10月，妻子叶霞翟又为他生下第二个女儿。胡宗南年已近60，老来得女，他十分高兴。成天在家陪妻教子，日子过得好不惬意。
1955年8月，蒋介石忽然要召见胡宗南。胡颇感意外。
到了“总统府”后，蒋询问了他近来读书的情况，然后问他：“澎湖防守一直薄弱，派你到澎湖去任防守司令，你有没有意见？”
胡宗南在大陆时就是上将衔，来台好几年，没有给他一官半职，而在60高龄，以上将军衔远赴澎湖任一个小小“防守司令官”，老蒋确实有些顾虑。如果胡宗南实在不愿意，蒋也打算另派他人。
谁知胡宗南听完老蒋的问话，起立答道：“报告总统，我马上到任。”
“自从今年元月中共攻占一江山岛，国军从大陈岛撤出，我们的地盘就剩下台、澎、金、马了。澎湖孤悬台海中心，扼守南北海道，是连接金门、马祖的中转站，也是防守台湾的最后一道门户，战略地位非常重要。现在那里的守军没有得力的人来领导，军心涣散，我很不放心。希望你去后，能够改变这种状况。”
“是。我一定尽到我的职责，请总统放心。”
蒋介石手下的几个大将里，胡宗南是最忠于蒋的，蒋指向哪，他就打到哪，从不讨价还价。蒋十分欣赏胡的这一点。所以，来台前尽管胡宗南丢了西北和西南，蒋并没有太多的责备他，也正因为此。
胡宗南接到任命后，便开始作准备。10天后，他告别妻子，登上开往澎湖的军舰，上任去了。
胡宗南去澎湖不久，就发生了一件在台湾军界传为笑谈的事情。
有一次，“国防部参谋总长”彭孟缉坐飞机到澎湖巡视。飞机停稳后，彭正要下机，随行人员报告说：“澎湖防守司令官胡宗南，亲临机场，正在下面迎候。”
彭孟缉虽然官至“参谋总长”，但在胡宗南面前，他还是个后辈学生。彭的脚已经跨出机舱门，听了报告，忙缩了回去，叫随从
