大冶县始建于宋乾德五年（公元967年），是年李煜为南唐国主时，升青山场院，并拆武昌三乡与之合并，新设一县。以境内矿产丰富采冶业发达，按《 庄子·大宗师》“大地为大炉，造化为大冶”一语，取“大兴炉冶”之意定名为大冶县。夏、商时，县地属荆州之域。
周夷王八年（公元前880年），楚王熊渠（子爵）攻杨越至鄂（今鄂城、大冶），封其次子熊红为鄂王，县地属楚国鄂王辖地。
秦昭王二十九年（公元前278年），秦将白起攻楚，取郢为南郡，时县地在南郡境内。
三国时，蜀汉章武元年魏黄初二年（公元221年），孙权自公安迁都于鄂（今鄂城），改鄂为武昌，并割鄂之南部建阳新县，以武昌、下雉、阳新、柴桑、沙羡、浔阳等六县为武昌郡。时县地在武昌郡之武昌（今鄂城）、阳新两县境内。
魏黄初四年（公元223年），孙权将其郡治迁至夏口（今汉口），又改武昌郡为江夏郡，县地在江夏郡之武昌、阳新两县境内。
西晋太康元年（公元280年），又改江夏郡为武昌郡。以武昌、鄂、阳新、沙羡等七县为属地。时县地在武昌、鄂、阳新三县境内。不久，武昌与鄂县合并，仍为武昌县，时县地在武昌、阳新两县境内。
东晋安帝义熙元至四年（公元405—408年），下雉县并入阳新县，此时仍为武昌郡，县地属武昌郡之武昌、阳新两县境内。
南朝：宋孝建元年（公元454年），置郢州于汝南（今武昌），时县地在郢州武昌、阳新两县。
随开皇九年（公元589年），改阳新为富川，不久，改富川为永兴，时县地在武昌、永兴两县境内。
唐代，县地在鄂州武昌、永兴两县境内。唐末，南方的九国兴起，县地在吴国境内。唐哀帝天佑二年（公元905年），吴国将永兴县和武昌县各划出相邻的一块地盘，置青山场院，进行大规模采矿、冶炼，时县地在吴国鄂州境内。
宋乾德五年（公元967年），始建大冶县。
宋太平兴国二年（公元977年），升永兴县为永兴军，次年改永兴军为光国军，县地先后属永兴军与光国军。
元世祖至元十四年（公元1277年），升永兴军为兴国路，隶属于江西行省；元至元三十年（公元1293年），兴国路划归湖广行省，县地属兴国路。
明洪武元年（公元1368年），改兴国路为兴国府；明洪武九年（公元1376年），将兴国府降为兴国州，县地先后属兴国府和兴国州。
清康熙三年（公元1664年），县地属武昌府；雍正元年至十三年（公元1723—1735年），分湖广行省，设置湖北省，县地属湖北省武昌府。
1921年，建立中华民国以后，废府改道，县地属湖北省江汉道，后道废，从属湖北省。
民国十六年（公元1927年）至民国三十四年（公元1945年），县地呈现“两权”（国、共）或“三权”（国、共、日）并立状况。大冶县是中国共产党领导的湘鄂赣革命根据地的一部分。1930年，成立大冶县苏维埃政府，先后隶属于“湖北省鄂东革命委员会”、“湘鄂赣省苏维埃政府鄂东办事处”、“湘鄂赣省鄂东南苏维埃政府”。民国二十一年（公元1932年），国民政府在省县之间设立“湖北省行政督察专员公署”，时县地属湖北省第二专署，1935年改属第一专署。
民国二十七年（公元1938年），大冶沦陷，日军随后建立伪“中华民国湖北省大冶县政府”，而国民党大冶县政府则流亡城外。民国三十一年（公元1942年），中国共产党领导的新四军五师十四旅在大冶、阳新、鄂城等地先后建立了“大鄂政务委员会”、“鄂大政务委员会”、“阳大政务委员会”，统属于“鄂南政务委员会”领导。民国三十四年（公元1945年）8月15日，日本宣布投降，国民党大冶县政府接管大冶县政权。
1949年5月15日，大冶解放。5月，划石黄镇、铁麓等乡成立“湖北省大冶工矿特区人民政府”。6月9日，成立大冶县人民政府。先后属大冶专区、黄冈专区。
1959年1月26日，大冶县从黄冈地区划出，改属黄石市。12月，撤销大冶县建制，并入黄石市。
1962年6月1日，恢复大冶县建制，仍属黄石市。
1995年元旦，撤销大冶县建制，成立大冶市，属黄石市代管。
