不过，明太祖对这些海外国家还是坚持其羁縻政策，洪武四年(1371年)，他在奉天门告谕各省、府、台大臣说："海外蛮夷之国，有为患于中国者，不可不讨；不为中国患者，不可辄自兴兵。古人有言，地广非久安之计，民劳乃易乱之源。如隋炀帝妄兴师旅，征讨琉球，杀害夷人，焚其宫室，俘虏男女数千人。得其地不足以供给，得其民不足以使令，徒慕虚名，自弊中土，载诸史册，为后世讥。朕以诸蛮夷小国，阻山越海，僻在一隅，彼不为中国患者，朕决不伐之。"他把朝鲜、日本、大小琉球、安南、真腊、暹罗、占城、苏门答腊、西洋、爪哇、彭亨、百花、三佛齐、勃泥等15国列为"不征诸夷"，并载诸《祖训》，以防"后世子孙，倚中国富强，贪一时战功，无故兴兵，致伤人命。"
但是从另一方面来看，明太祖对误将怀良亲王当成日本国王，遣使往答而使者遭其拘留二载始遣返一事，一直不能忘怀。他敕令中书省曰："今日本蔑弃礼法，慢我使臣，乱自内作，其能久乎。"要求中书省移书将其意告谕怀良亲王，"使其改过自新，转祸为福。"
至洪武十六年(1383年)，又以"通谋胡惟庸"为借口，断绝与怀良亲王的朝贡关系。此事据说起于"明州备倭指挥林贤，以罪流日本。惟庸将为乱，遣人取贤回，就借精兵四百，与僧如瑶来献巨烛，中藏火药、兵器，意在图乱。事觉，磔贤于市，而绝其贡。"有关此事的真伪，在史学界颇有争议。
日本学者木宫泰彦认为："从当时怀良亲王对明朝所抱的强硬态度和日本人民从弘安以来培养起来的冒险精神来推测，是很有可能的。"另一位日本学者秋山谦藏亦持同样看法："这事在《明太祖实录》中虽未见记载，然当时正值明建国创业之际，而日本国内亦正纷乱，因此发生这种事，虽程度有别，但并非不可能。"但有的中国学者却认为："胡惟庸的罪名，名目繁多。
朱元璋在他身上除了罗织谋逆、僭越等罪之外，再来一条林贤通倭和如瑶诈贡之类的故事，是有其政治需要的。因为这样加重罪名之后，使胡案株连更广，可以此为据打击更多他所要打击的对象。"无论这些看法如何，明太祖毕竟是以此为借口，终止了与日本的朝贡贸易关系。同时，改变了原先寄希望于日本方面抑制倭寇侵扰的消极做法，转而实行加强海防，积极防御倭寇的政策。他于洪武十七年(1384年)正月，命令信国公汤和巡视浙江、福建沿海城池，筑登、莱至浙沿海59城，以防御倭寇骚扰。
洪武二十年(1387年)三月，又命令江夏侯周德兴往福建，以福、兴、漳、泉四府民户三丁取一，为沿海卫所戍兵，其原置军卫非要害之所即移置之。周德兴至福建后，则按籍抽兵。相视要害可为城守之处，具图以进。另选丁壮15000余人，筑城16，增置巡检司45，分隶诸卫，以防御倭寇。
