为了与朝鲜水师进行决战，日本水师在巨济岛一带集结，准备兵分三路向朝鲜水师发动进攻。而李舜臣则将其全罗道的舰队和庆尚道的部分舰队组成联合舰队，准备迎战。7月6日，李舜臣进兵出唐浦附近水域，并于7月7日清晨，将集结于巨济岛的日本水师引至闲山岛附近水域决战。李舜臣选择在此地决战是因为这里有著较为宽阔的深水环境，易于设置埋伏，可以向日本舰队进行包围歼灭。
在决战开始不久后，朝鲜水师的战船即将日军包抄起来，而朝鲜水师的龟甲船则向日军舰队直撞过去，很快便撞翻了日军舰队前列的几艘大船，而其余朝鲜战船也奋勇杀敌，与敌作殊死战，结果日军的61艘战舰被全歼。这就是闻名于世的“闲山岛大捷”。
经此一役，日本水师完全丧失制海权，而在陆战上则屡为明军所败，结果丰臣秀吉只有与明朝讲和。而李舜臣则被封为二品正宪大夫、三道水师统制使。