西汉初设置在长安城内的禁卫军。南军属卫尉统领，北军属中尉统领。南军分别驻扎在未央、长乐两宫之内的城垣下，负责守卫两宫。长安城除宫城范围以外，皆归中尉守护，城门及城郊由城门、步兵校尉掌管。未央、长乐两宫位于长安城南部，所以卫尉统率的军队称南军，长安城北部归中尉，中尉后改名执金吾，中尉或执金吾所部为北军。
西汉时南军由卫士组成，总数一两万人。因北军有几万，实力上超过南军，成为护卫和稳定京城秩序的重要力量。如吕后死后，周勃掌握北军，诸吕就难以取胜；武帝时卫太子在长安城内进行武装政变，后因得不到北军支持而为丞相兵所败。
皇帝为了更好地控制南北军，又常派亲信为卫将军加以统率。文帝曾派宋昌镇抚南北军，宣帝曾任张安世为卫将军，统领两宫卫尉和北军、城门兵。
东汉初将西汉的八校尉减并为五校尉，当时人称五校为五营。又置北军中候以监五校。东汉与西汉不同，北军是指五校所率的禁军。东汉时不见南军名称。东汉初以后，北军的名称也不再见于文献记载。