在国民革命军的编制序列中,历史上曾先后出现过2个第84军。
一、桂系一部组成的第84军
该军前身是桂系一部。1938年4月,国民党政府为加强武汉会战的力量,以桂系第8军团新建的3个师合编为第84军,隶属第5战区。夏威任第8军团长兼军长,覃连芳、徐文名任副军长,下辖:第131师,林赐熙任师长;第188师,刘任任师长;第189师,凌压西任师长。该军组成后,即参加武汉会战。61日,夏威免去兼职,由覃连芳继任军长。1939年初,国民党军进行局部编制调整,该军第131师第188师奉命改隶第31军。另将第31军的第173师,贺维珍、钟毅任师长;第174师,张光炜任师长;第189师,凌压西任师长。4月,该军奉命参加随枣会战。同年6月29日,覃连芳他调,由莫树杰任军长,徐文明任副军长。同年12月至1940年5月,该军隶属第11集团军,先后参加了1939年冬季攻势作战和枣宜会战。1940年5月9日,第173师师长钟毅在枣宜会战中阵亡,由粟廷勋继任师长。1941年初,第173师改隶第5战区直辖,莫树杰任军长,凌压西任副军长。此时,该军下辖第174师、第189师。同年1月至10月,该军先后参加了豫南会战、第2次长沙会战。1943年2月,该军隶属第5战区参加了鄂西会战。7月,莫树杰调走后由张光炜任军长,粟廷勋、谭何易任副军长,辖第174师,牛秉鑫任师长;第189师,张文鸿任师长。此后,该军先后参加了常德会战和豫中会战。1945年8月,该军番号和第189师被裁撤,圆辖第174师改隶第48军。
二、伪军吴化文部组成的整编第84师(军)
该军前身是伪军吴化文部。1945粘月,国民党军队将伪军吴化文部改编为新编第55路军。10月,吴部由蚌埠、徐州沿临城、滕县北上参加内战,在进至山东界河时,被人民解放军歼其大部,残部逃入兖州。1946年2月,第5路军残部与山东地方部队合编为暂编第7纵队,不久又改编为山东保安第2纵队。1947年春,山东保安第2纵队改编为整编第84师(军),隶属第2绥靖区整编第96军。吴化文任师长,杨团一任副师长,下辖:整编第155旅,杨友柏任旅长;整编第161旅,徐日政任旅长。1948年9月,在济南战役中,该整编师在吴化文的率领下起义,接受中国人民解放军改编。