公元1592年（中国明代万历壬辰年），统一日本后的丰臣秀吉为征服中国，向朝鲜提出了“借道入明”的无理要求，被朝鲜拒绝后，丰臣秀吉便派大军入侵朝鲜，并一度占领了汉城，在明朝军队的援助下，朝鲜人民奋起抵抗，使日军陷入苦战。1598年丰臣秀吉病死，日军士气一落千丈，在中朝军民的共同打击下被迫退出朝鲜半岛。
为纪念此次战争的胜利，李氏朝鲜宣祖皇帝下令在朝鲜北关（咸镜北道）立碑记事，这就是“北关大捷碑”(북관대첩비)的由来。这段历史，今天被朝鲜称作“壬辰祖国战争”，在韩国则被称为“壬辰倭乱”。
1905年，日俄战争爆发。日军中将三好成行将此碑掠夺到了日本。三好成行因读不懂碑上1400个汉字的碑文，还曾闹了个笑话：以为这是胜利的象征，打算献给天皇皇宫内专藏“战利品”的振天府，后来得知此乃失败的记录，才把它丢在靖国神社的游就馆。
1970年，此碑被旅日韩国侨民发现，韩国人民知道后大为愤慨，发起签名运动，要求日本归还，日本政府想赖赖不掉，归还又觉得有点坍台，便作出一个狡猾的回答：“只要大韩民国与朝鲜民主主义人民共和国达成协议，通过外交途径正式向日本政府提出请求，我们就归还。”日本明明知道，按照当时的国际形势，朝鲜和韩国根本不可能达成这样的协议；更何况，石碑是从朝鲜咸镜北道抢去的，要还也应还给朝鲜，而朝鲜和日本没有外交关系，又何来“外交途径”？当然，这些小计谋、小动作都不管用，韩国政府2005年5月份正式要求日本归还古碑。2005年10月11日日本靖国神社宣布将把朝鲜半岛文物“北关大捷碑”移交给韩国。