传说，“涮羊肉”起源于元代。七百多年前，元世祖忽必烈统帅大军南下远征，经过多年战斗，人困马乏，饥肠辘辘。忽必烈猛地想起家乡的菜肴——清炖羊肉，于是吩咐部下山羊烧火。正当伙夫宰羊割肉时，探马突然气喘吁吁地飞奔进帐禀告，敌军大队人马追赶而来，里此仅有十里路。但饥饿难忍地忽必烈一心等着吃羊肉，他一面下令部队开拔，一面喊着：“羊肉！羊肉！”
清炖羊肉当然等不及了，可生羊肉不能端上来让主帅吃，怎么办呢？厨师知道忽必烈地性情暴躁，于是急中生智，飞快地切了一些薄肉，放在沸水里搅拌了几下，待肉色一变，迅速捞入碗中，撒上细盐、葱花和姜末，赶忙端给主帅。
忽必烈抓起肉片送进口中，接连吃了几碗之后，他挥手扔掉碗，翻身上马，率军迎敌，结果旗开得胜，生擒敌将。
在筹办庆功酒宴时，忽必烈特别点了战前吃的那道羊肉片。这回厨师精选了优质绵羊腿部的“大三叉”和“上脑”嫩肉，切成均匀的薄片，在配上麻酱、腐乳、辣椒、韭菜花等多种作料，鲜嫩可口，将帅们吃后赞不绝口，忽必烈更是喜笑颜开。厨师忙上前说道：“此菜尚无名称，请帅爷赐名。”忽必烈一边涮着羊肉片，一边笑着答道：“我看就叫‘涮羊肉’吧！”
“从此，“涮羊肉”成了宫廷佳肴。但直到清朝光绪年间，“涮羊肉”才逐渐走向民间。