在国民革命军的编制序列中，历史上曾先后出现过2个第84军。
一、桂系一部组成的第84军
该军前身是桂系一部。1938年4月，国民党政府为加强武汉会战的力量，以桂系第8军团新建的3个师合编为第84军，隶属第5战区。夏威任第8军团长兼军长，覃连芳、徐文名任副军长，下辖：第131师，林赐熙任师长；第188师，刘任任师长；第189师，凌压西任师长。该军组成后，即参加武汉会战。61日，夏威免去兼职，由覃连芳继任军长。1939年初，国民党军进行局部编制调整，该军第131师第188师奉命改隶第31军。另将第31军的第173师，贺维珍、钟毅任师长；第174师，张光炜任师长；第189师，凌压西任师长。4月，该军奉命参加随枣会战。同年6月29日，覃连芳他调，由莫树杰任军长，徐文明任副军长。同年12月至1940年5月，该军隶属第11集团军，先后参加了1939年冬季攻势作战和枣宜会战。1940年5月9日，第173师师长钟毅在枣宜会战中阵亡，由粟廷勋继任师长。1941年初，第173师改隶第5战区直辖，莫树杰任军长，凌压西任副军长。此时，该军下辖第174师、第189师。同年1月至10月，该军先后参加了豫南会战、第2次长沙会战。1943年2月，该军隶属第5战区参加了鄂西会战。7月，莫树杰调走后由张光炜任军长，粟廷勋、谭何易任副军长，辖第174师，牛秉鑫任师长；第189师，张文鸿任师长。此后，该军先后参加了常德会战和豫中会战。1945年8月，该军番号和第189师被裁撤，圆辖第174师改隶第48军。
二、伪军吴化文部组成的整编第84师（军）
该军前身是伪军吴化文部。1945粘月，国民党军队将伪军吴化文部改编为新编第55路军。10月，吴部由蚌埠、徐州沿临城、滕县北上参加内战，在进至山东界河时，被人民解放军歼其大部，残部逃入兖州。1946年2月，第5路军残部与山东地方部队合编为暂编第7纵队，不久又改编为山东保安第2纵队。1947年春，山东保安第2纵队改编为整编第84师（军），隶属第2绥靖区整编第96军。吴化文任师长，杨团一任副师长，下辖：整编第155旅，杨友柏任旅长；整编第161旅，徐日政任旅长。1948年9月，在济南战役中，该整编师在吴化文的率领下起义，接受中国人民解放军改编。