1933年3月9日，日军铃木师团直抵长城喜峰口，服部、铃木两旅团的联合先遣队进抵侵占北侧长城线及喜峰口以东的董家口等阵地。二十九军奉命赴长城御敌。赵登禹任喜峰口作战前敌总指挥，率所部国民党陆军第二十九军三十七师一○九旅冒风雪，急行军700余里，10日，赶到喜峰口，与日军第十四混成旅激战。赵登禹亲临前线，指挥将士英勇杀敌，与敌白刃肉搏，长城垛口20余次失而复得。日寇调集5000余人和大批重炮，飞机轰炸了3个小时，阵地一片火海。随后日寇蜂拥而上。在弹药用尽之际，赵登禹率部与敌展开肉博战。他一口气砍倒日军几十名，左腿负伤，卫兵急忙脱衣服给他包扎，他却不肯，仍挥刀杀敌，一直激战到天黑，日军寸土未得，死伤3000多人。
由于火炮及子弹很少，白天受到日军轰炸，而不能将其压住，3月11日夜，赵登禹根据敌情带伤率两个团利用夜色的掩护从左翼出潘家口绕到日军后方，官兵们身携手榴弹，手提大刀，在夜暗中踏雪前进，于次日拂晓前进至日军三家子、小喜峰口、狼洞子、白台子等阵地。大刀队与二十九军邻部分三路夹击敌人，大多数日寇在睡梦中未及还击，便纷纷被大刀片砍杀。赵登禹所率的大刀队用大刀片夺回高地，并俘获多量坦克、毁敌大批辎重粮草。3月12日，驻喜峰口外老婆山的日军赶来增援，日军以炮火和空军掩护，向喜峰口猛扑，阵地全部轰塌。但二十九军在冰天雪地里浴血奋战, 二十九军官兵以血肉之躯拼搏数日，日寇对赵登禹将军威名是闻风丧胆，敌人溃不成军。最后不得不放弃占领喜峰口的企图。日军将领连连哀叹，此役丧尽“皇军的名誉”。日军在退回承德后追悼阵亡将士时宣称，这是日本军侵华以来，“前所未有的耻辱”。日本一家报纸评论说：“明治大帝造兵以来，皇军名誉尽丧于喜峰口外，而遭受六十年来未有之侮辱。”中国军队重创日军，使全国人心为之一振。天津《大公报》称喜峰口抗战“竟能使骄妄气盛之日军受偌大打击，此诚足为中国军人吐气。”
赵登禹和他的部下，用大刀片砍出了中国军队的威风，砍出了中华民族的骨气，还砍出了一曲风靡全国的《大刀进行曲》。听前线传来了振奋人心的消息，青年音乐工作者麦新的爱国热情像火山喷发，他流着泪，一气呵成这首风靡全国的《大刀进行曲》:“大刀向鬼子们的头上砍去！二十九军的弟兄们，抗战的一天来到了！前面有抗战的正规军，后面有支前的老百姓，我们万众一心共同前进。冲向那敌人，把它消灭！冲啊－－－大刀向鬼子们的头上砍去！” 歌曲塑造了一群挥舞大刀勇猛冲杀的中国军人形象。这首二十九军大刀队的战歌，后来“响”誉全国,流传至今，它就像抗日的号令，是抗日战争开始时最典型的时代音调。