当时沙俄陆海军军衔分为4类10级，第一类为士兵衔，区分为列兵、上等兵、下士、上士、司务长和下级准尉六级；第二类为尉官，区分为准尉、少尉、中尉、上尉、大尉五级；第三类为校官，区分为少校、中校、上校三级；第四类为将军衔，区分为准将、少将、中将、上将、元帅五级。海军军衔的等级与陆军大致相同。这些衔称的大部分一直沿用至1917年。
十月社会主义革命后，苏联人民委员会于1917年12月29日颁布《关于全体军人权力平等法令》，认为军衔制是剥削阶级军队的产物，因而明令予以废除，工农红军中的指挥员只按照职务区分等级。当时的军官分为下级、中级、上级、高级四类，下级军官包括副班长、班长、副排长、司务长；中级军官为排长、副连长、连长；上级军官为营长、副团长、团长；高级军官为旅长、师长、军团长、军长。各级军官的职务用领章、袖章等职务标识符号来区分。
这样以职务区分各级指挥员的方法实行了18年之久，至1935年9月22日，苏联中央执行委员会和苏联人民委员会根据军队建设发展的需要，正式作出实行军衔制度的决议，也就是说，在共产党、无产阶级领导的社会主义国家中的军队也要实行军衔制。为什么要实行军衔制呢?其决议中指出，“军衔将清楚地表现出指挥员和首长的军事专业水平，军龄和功绩，权力和威望”，有利于加强军队建设。还认为，“军衔是正确组织全军人员服役，调配及合理使用干部的重要条件。实行军衔为固定军人的法定职位创造了必要的前提。在武装力量中，根据军衔确定军人之间的隶属关系和上下级关系，确定与军衔相应的职务，规定服现役和预备役的期限。军衔对规定军人本人及其家属的物资供应、薪金、国家保障和优待等具体权利，具有十分重要的意义”。