历史苏联军队在1918年2月23日成立，从在之前的1917年12月16日苏维埃政府已发布取消沙皇军衔制度起直至1935年9月22日苏共中央执行委员会和苏联人民委员会为顺应军队正规化建设而恢复军衔制为止的这段时间之间，苏联没有实行军衔制度。
苏联的军衔制度建立得较晚，是在1935年根据苏联中央执行委员会和苏联人民委员会的决议建立起来的。伟大的十月社会主义革命后，苏联人民委员会于1917年12月29日颁《关于全体军人权力平等》法令，认为军衔制是剥削阶级军队的产物，因而明令予以废除，工农红军中的指挥员只按照职务区分等级。当时的军官分为下级、中级、上级、高级四类，下级军官包括副班长、班长、副排长、司务长；中级军官为排长、副连长、连长；上级军官为副营长、营长、副团长、团长；高级军官为旅长、师长、军团长、军长等。各级军官的职务用领章、袖章等职务标识符号来区分。
这样以职务区分各级指挥员的方法实行了十八年之久，至1935年9月22日，苏联中央执行委员会和苏联人民委员会根据军队建设发展的需要，正式作出实行军衔制度的决议。规定军衔分陆军、空军、海军和政工人员三类。
苏联元帅为三军的最高军衔。陆、空军的军衔为十四级，海军为十三级，政工人员为九级。
陆、空军军衔的称谓是：
红军战士、班级、副排级、大士、中尉、上尉、大尉、少校、上校、旅级、师级、军级、二级集团军级、一级集团军级；
海军军衔称谓是：
红海军战士、班级、海军大士、海军中尉、海军上尉、海军大尉、海军少校、海军中校、海军上校、二级分舰队级、一级分舰队级、二级舰队级、一级舰队级；
政工人员军衔的称谓是：
上尉政治指导员级、大尉政治指导员级、营政委级、团政委级、旅政委级、师政委级、军政委级、二级集团军政委级、一级集团军政委级。在这些规定中可以明显的看到军衔与职务混合的痕迹。
随着苏联武装力量的发展，军衔的等级逐渐增多，军衔的称谓也进行了部分的变动。1937年，政工人员增设了中尉政治指导员级，陆、空军增设了少尉；1939年，政工人员又增设了一级营政委级（原营政委级改为二级营政委级），陆、空军又增设了中校。这样，陆、空军军衔由原来的十四级增至十六级，政工人员由九级增至十一级。
1940年5月7日，苏联最高苏维埃主席团颁发命令，高级军官衔改称将官，陆军设少将、中将、上将、大将衔；海军设海军少将、海军中将、海军上将、海军元帅衔，海军元帅与陆军大将属同一级别。
同年11月2日，在红军战士和初级指挥员中设立列兵、上等兵、下士、中士和上士军衔。这样，使军衔与职务明显地区分开了。
卫国战争中后期，随着炮兵军、坦克集团军、防空集团军、空军集团军等高级兵团组织的出现，苏维埃主席团于1943年1月和10月先后颁布命令，增设了空军元帅、炮兵元帅、装甲兵元帅、工程兵元帅、通信兵元帅和空军主帅、炮兵主帅、装甲兵主帅、工程兵主帅、通信兵主帅等高级军衔。1945年6月26日，苏联最高苏维埃主席团颁布命令，设置苏联大元帅军衔，次日，即将此衔授予斯大林同志。
战后，根据最高苏维埃主席团1955年3月3日命令，设立了苏联海军元帅衔，这一军衔级别相当于苏联元帅。1971年11月和1980年12月，最高苏维埃主席团又先后决定设立准尉和高级准尉军衔，其目的在于增加职业军人比重，保留基层的军事技术骨干。
至苏联解体前，苏联的军衔计有陆、海、空军三类，区分为苏联大元帅、高级军官、校官、尉官、准尉、军士、兵，计七等二十二级。其等级次序为：苏联大元帅、苏联元帅（苏联海军元帅）、军兵种主帅、大将（军兵种元帅）、上将、中将、少将、上校、中校、少校、大尉、上尉、中尉、少尉、高级准尉、准尉、大士、上士、中士、下士、上等兵、列兵。
军衔表苏联陆空军 苏联海军
苏联大元帅 苏联大元帅
高级军官 苏联元帅 苏联海军元帅
军兵种主帅
大将/军兵种元帅 海军元帅
上将 海军上将
中将 海军中将
少将 海军少将
校官 上校 海军上校
中校 海军中校
少校 海军少校
尉官 大尉 海军大尉
上尉 海军上尉
中尉 海军中尉
少尉 海军少尉
准尉 高级准尉 海军高级准尉
准尉 海军准尉
军士 大士 海军大士
上士 海军上士
中士 海军中士
下士 海军下士
兵 上等兵 上等水兵
列兵 水兵
苏联解体后继承和发展苏联的军衔体系被称为东方型军衔，与美国的西方型军衔及日本的东亚型军衔相对应，随着1991年12月25日苏联解体，沿用了56年的苏联军衔被被俄罗斯等前加盟共和国不同程度地继承下来。但在1996年,俄罗斯在议会通过了一个法案.内容是: 1.解散苏联共产党以及苏共下属的所有企业和部门,并解散苏联红军. 2.建立俄罗斯红军.(简称俄军) 3.俄军军衔继承苏联军衔,但删除以下军衔: 苏联陆空军 苏联海军 苏联大元帅 苏联大元帅 高级军官 苏联元帅 苏联海军元帅 军兵种主帅
