慧忠，俗姓冉，越州诸暨(浙江诸暨)人，幼时不会讲话，从未踏越家门前的横桥一步。十六岁时，家里来了一位禅师，他远远迎面遥向禅师礼拜，双亲及亲友见了这种情形，都为他的举止感到惊讶不已，慧忠当时便乞求出家。他听闻六祖慧能大师之名，就前往叩谒参学近十一年的岁月。因此在禅林中，他与青原行思、南岳怀让、神会、永嘉玄觉等四人，并称为六祖门下五大宗匠，与神会同在北方弘扬六祖禅风，批评当时在南方(江西)阐扬“平常心是道”的马祖道一，驳斥南方禅者不重视经典而随意说法的作风，所以慧忠国师平日特别重视经律论的教学。
其后，慧忠国师游历无数名山大川，例如五岭、罗浮、四明、天目、白崖、紫阁、武当等诸山，或者在松下安居，或者在岩石禅定。清风朗月，白日江河，皆能身心融为一境。在参访慧能大师的十一年中间，六十二、三岁左右，中宗嗣圣七年(六九○)时，进入南阳白崖山党子谷(河南南阳)，自此长居于此，四十多年不下山，天下的学者风从而至，超过千人。
唐玄宗因为钦仰慧忠禅师的道风，开元八年(七二○)将他迎请入京。慧忠奉敕担任南阳龙兴寺的住持。不久，遇到安史之乱，师便遁隐。到了肃宗在位时，上元二年(七六一)，再召师入京城，以师礼相见，并敕住千福寺西禅院，公卿士庶纷纷参叩求法。
有一次，唐肃宗问慧忠国师：“大师在曹溪那里得到什么法？”
慧忠国师回答：“陛下还看见空中那一片云吗？”
肃宗说：“看见。”
慧忠国师问：“它是钉在那儿呢，还是挂在那儿呢？”
肃宗又问：“如何才能掌握自己的身心？”
慧忠国师就站起来，问：“明白吗？”
肃宗说：“不明白。”
慧忠国师说：“那你把净瓶拿过来。”肃宗还要再问，慧忠国师不理会他，连看都不看他。肃宗说：“我是大唐天子，你胆敢连看都不看我一眼？”
慧忠国师说：“你看得见天上的虚空吗？”
肃宗说：“看见。”
慧忠国师：“陛下！它曾向你看一眼吗？”
有个印度沙门大耳三藏来到京城，自称有他心通，唐肃宗请慧忠去试验。大耳三藏一见到慧忠就施礼下拜，站到一边。
慧忠国师问他：“你会他心通吗？”
大耳三藏说：“不敢！”
慧忠国师说：“你看看我现在在什么地方？”
大耳三藏说：“和尚是一国之师，怎么跑到西川看划船竞赛去了？”
过了一会儿，慧忠国师又问：“你说我现在又在什么地方？”
大耳三藏说：“你是一国之师，怎么又跑到天津桥上看人耍猴把戏？”
过了一会儿，慧忠国师又问：“你说我现在究竟在什么地方？”大耳三藏深入禅定，觅不可得。慧忠国师斥责他：“你这野狐精，你的他心通怎么不灵光了呢？”大耳三藏惭愧得说不出话来。
代宗即位之后，对慧忠国师更是礼遇有加，于是迁住光宅寺。有一天，代宗召见一人，自号太白山人，不明真实姓名与年龄。代宗告诉慧忠国师：“此人自认是一代奇人，颇有见解，敬请国师考验。”慧忠国师先看看太白山人，然后问道：“陛下说你是一位异士，请问你有什么特长？”
太白山人说：“我会识山、识地，上知天文，下知地理，作文认字，无一不精，并长于算命。”
慧忠国师道：“请问山人：你所住的太白山是雄山呢？还是雌山呢？”太白山人茫然不知所对。
慧忠国师又指着地问道：“请问这是什么地呢？”
山人说：“算一算便可知道。”
慧忠国师又在地上写了“一”字，问：“这是什么字？”
山人回答：“一字。”
慧忠不以为然，纠正他的话：“土上加‘一’，应当是‘王’字，为什么会是‘一’字呢？现在，我再请问你：三七共是多少？”
山人回答：“三七是二十一，谁人不知？”
慧忠国师说：“三和七合起来是十，怎么一定会是二十一呢？”
站在一旁的代宗欣悦地说：“朕有国位，不足为宝；朕有国师，国师是宝！”
慧忠国师不但博通训诂，并且穷究经律，虽受到玄宗、肃宗、代宗三朝的礼遇，但以天性淡泊，自乐天真。由于仰慕南岳慧思大师的遗风，奏请在衡岳武当山兴建太一延昌寺；又在党子谷创立香严长寿寺，各请藏经一部作为镇山之宝。大历八年(七七三)，奏请朝廷度化天下名山之僧，遴选精通经律论三藏者。后来，归隐党子谷，大历十年示寂，享寿八十有余。谥号“大证禅师”。世人称他为“南阳慧忠”、“南阳国师”。
慧忠国师有许多著名公案流传后世，以“国师三唤”、“无情说法”、“无缝塔”等三则，最为禅林所传诵。另有“九十七种圆相”，是由他的侍者耽源所传。
