甲午中日战后，清政府为加强陆军力量，下令由湖广总督张之洞、直隶提督聂士成、温处道、袁世凯等创立新式陆军，“习洋枪，学西法”，史称新军。
1894年底，清政府接受李鸿章的德国军事顾问汉纳根的建议，派长芦盐运使胡燏棻在天津小站（初为马厂）编练一支新式陆军，称“定武军”，共计10营4750人，其中步兵3000人，炮兵1000人，骑兵250人，工程兵500人。次年12月，经“督办军务处”推荐，由袁世凯接管定武军，并加募步兵2000人，骑兵250人，将其扩充到7000人，改名为“新建陆军”，完全依照德国营制、操典进行训练，聘用德国军官充任教习，还专门成立了由德国人组成的教习处（后改为洋务局）。编制上分步、骑、炮、工程、辎重等兵种；步兵分左、右两翼，左翼2营，右翼3营；炮兵分为右翼快炮队、左翼重炮队和接应马炮队。装备方面，全部使用购自国外的新式武器装备。各级军官大多数由军事学堂毕业生充任。军中设有步兵、炮兵、骑兵、德文四所随营学堂，毕业生除学习德文者准备派赴德国留学外，其余全部派充下级军官。另外还设有专门对官兵进行轮训的讲武堂与学兵营，士兵的选拔招募，也按照西法国家的制度，有年龄、体格及识字程度等规定。
与此同时，直隶提督聂士成挑选所部马步军30营，按德国军制训练，编为“武毅军”。1896年，直隶全省淮军、练军20000余人，被编为20营，按西法操练，分驻各地。1898年戊戌变法运动期间，袁世凯的新建陆军与董福祥的“甘军”、聂士成的“武毅军”，一同隶属于直隶总督荣禄之下，并称北洋三军。同年12月，荣禄统一北洋各军称“武卫军”，这也就是后来北洋军阀的渊源。
在京师大练新军的同时，各省也开始了编练，如湖广总督张之洞在江南创设“自强军”，计13营，聘请德国教习，枪械、兵法均仿照欧洲，次年在湖北练洋枪队2营，并将此种制度向各省推广。两江总督刘坤一将江南省的江宁、镇江、吴淞、江阴、徐州五路防军，全部改为西法操练，使用新式武器。
1901年，清廷鉴于八国联军入侵中，中国陆军显示出的，战斗力低下，懦弱，混乱等情况，下决心改编军队。下令将战斗力较强的军队改为常备军，其余编为续备军，同时加强洋枪操练。1904年，清政府为进一步统一军制，在北京设立练兵处，各省设立督练公所，将全国划分为三十六镇（军区），将军队编为常备军、续备军、后备军。后因武昌起义爆发，只成立了二十六镇。共有军官11463人，士兵168544人。
新军作为清朝的最后也是最新的一种军制，原是清廷用来巩固维持统治地位的，但由于政治的彻底腐败，光靠一支新式军队是没有办法来拯救一个走向末路的帝国。具有讽刺意味的是，这支原本被清廷用来加强统治的新军，在辛亥革命中成了推翻清廷统治的主力军。
