毛瑟公司的历史可以追溯到1811年7月31日，当时符腾堡（Württemberg）国王腓特烈一世（Friedrich I）在德国黑森林的一个小镇奥伯恩多夫（Oberndorf）建立一间皇家兵工厂，该工厂于第二年开始运作，雇用了133个工人，专门为普鲁士军队生产武器。毛瑟两兄弟——威廉与保罗自小就跟随父亲在这家兵工厂当学徒，也是在这家工厂开始尝试设计枪支。在1867年，毛瑟两兄弟以法国的夏塞波后装枪为基础，设计了一种旋转式闭锁枪机的后装单发枪，这种步枪于1871年被德国军队采用，并命名为71式步枪，这就是历史上第一支毛瑟步枪。威廉·毛瑟（Wilhelm Mauser）在1882年1月13日去世后，保罗·毛瑟（Paul Mauser）继续在轻武器设计方面进行研究。为了提高71式步枪的射速，保罗·毛瑟在枪管下方增设了一个管状弹仓，这种改进型后来被命名为71/84式步枪。
到了1886年，法国率先采用了以无烟发射药为推进药的勒贝尔（Lebel）1886步枪，无烟发射药使步枪弹头的初速和有效射程都大大提高，世界各国对无烟发射药技术都趋之若鹜，德国也需要尽快换装无烟发射药步枪，于是就在1888年通过一个军事委员会把无烟发射药和曼利夏式弹仓和其他国家的步枪上的先进技术都揉合在一起，从而诞生了众所周知的1888式“委员会步枪”（1888 Commission Rifle），这种步枪发射的步枪弹被命名为“8×57 J”。
当时德国步枪的设计和生产都掌握在保罗·毛瑟手里，他很不满意德国军队擅自设计和采用88式步枪，并开始着手对毛瑟步枪进行改进，很快就推出了毛瑟1889式和毛瑟1891式；其后，保罗·毛瑟又设计了一种不随枪机旋转的拉壳钩，提供了供弹可靠性，并推出了毛瑟1892式步枪；在次年推出的毛瑟1893式步枪又把单排弹仓改为双排弹仓，使弹仓长度缩短。在政府的支持下，毛瑟步枪很快就在全世界流行起来，也促使保罗·毛瑟不断地改进和完善他的设计，先后推出了1894式和1895式步枪。从92式到95式这一系列的毛瑟步枪被卖到比利时、西班牙、墨西哥、智利、乌拉圭、南非共和国（布尔人德兰士瓦和奥伦治自由邦）、中国和伊朗等等国家。随着毛瑟步枪的名气不断攀升，保罗·毛瑟也逐渐全面控制了皇家兵工厂的股份，最终在1897年把皇家兵工厂重新改组成毛瑟武器制造股份公司（Waffenfabrik Mauser AG）。
除了生产步枪外，毛瑟公司也生产该工厂雇员菲德勒三兄弟设计的驳壳枪，但由于该手枪最后申请专利的是公司的老板，所以这种手枪也被称为毛瑟手枪。毛瑟公司最著名的产品是98k式短卡宾枪，这是二战前在原来的98式步枪的基础上改进和缩短而成的，并在二战期间成为纳粹德国的制式步枪。在1940年，毛瑟公司被邀请参加新型半自动步枪的投标，但可惜毛瑟公司的G41(M)试验失败，在经过短期试产后就被取消。
当纳粹德国战败后，奥伯恩多夫处于法国的控制之下，整个兵工厂遭到占领军的破坏。后来，3个毛瑟公司的前雇员在奥伯恩多夫建立了H&K公司，H&K公司最终完全取代了毛瑟公司为德国军方供应轻武器。现在的毛瑟公司只是属于德国防务企业莱茵金属公司（Rheinmetall）下的一个子公司，其主要的业务只是生产BK-27转膛式自动炮，在轻武器业务方面已经完全没落，只有一些名气不大产量不多的民用产品。
