淮南市国家税务局于1994年8月组建，经过两次机构调整和规范机构设置，现下设11个内设科室，1个直属机构、2个事业单位,即：办公室、政策法规科、流转税管理科、所得税管理科、国际税务管理科、进出口税收管理科、征收管理科、计划统计科、财务管理科、人事教育科、监察室11个内设科室，另设机关党委办公室、离退休干部管理办公室；1个直属机构——稽查局；信息中心、机关服务中心2个事业单位；7个派出机构，即：田家庵区国税局、大通区国税局、谢家集区国税局、八公山区国税局、潘集区国税局、毛集社会发展综合实验区国税局和淮南经济技术开发区国税局7个派出机构，1个垂直管理单位，即凤台县国税局。全系统现有干部职工459人（其中凤台县局86人），离退休干部109人。
近年来，淮南市国税局在省国税局和市委、市政府的正确领导下，以邓小平理论和“三个代表”重要思想为指导，认真党的十六大、十六届四中、五中全会精神，与时俱进，务实创新，以“创一流班子、带一流队伍、抓一流管理、上一流水平”为目标，走“人才兴税、科技强税、管理增税”之路，大力推进政风建设，全力打造“政治过硬、业务熟练、作风优良、执法公正、服务规范”的高素质国税干部队伍，坚持依法治税、聚财为国、执法为民，稳步实施“十一项工程”，努力构建风正、气顺、劲足的和谐淮南国税，促进了“三个文明”建设的协调发展。税收收入连年超额完成任务，2003年8月被国家税务总局授予“全国税务系文明单位”荣誉称号，被省委、省政府命名为第四、五、六届省级文明单位，2004年3月被省文指委命名为“安徽省文明窗口”，2004年10月被淮南市委、市政府授予2001-2004年度淮南市“先进集体”；连续7年获得了全省国税系统目标管理考核优秀单位；连续10年获得了市委、市政府目标管理考核优秀单位；连续3年被淮南市政府评为全市政风建设先进单位；2003年在政协淮南市委组织的对14个行政执法部门“支持民营经济发展”问卷调查中获总分第1名；还被市直机关工委评为“勤政廉政十佳”单位；全系统保持了市级“文明单位标兵”满堂红；有1个区局荣获全国“青年文明号”、3个区局荣获全省“青年文明号标兵”荣誉称号。
