晋置。
晋太康三年(282年)，析侯官县温麻镇置温麻县（福建连江伏沙）。属晋安郡(郡治在今福州)。
南朝宋元嘉间(424～453年)，晋安郡改名昌国郡，不久复原名。温麻均属之。
泰始四年(468年)，晋安郡改为晋平郡，温麻属晋平郡。
南朝齐建元二年(480年)，晋平郡复名晋安郡，温麻仍属之。
陈永定元年(557年)，晋安郡设闽州(州治在今福州)，天嘉六年(565年)闽州废，温麻属闽州晋安郡。
光大元年(567年)，晋安郡设丰州。温麻属丰州晋安郡。
隋开皇九年(589年)，改丰州为泉州，州治仍在今福州。温麻属之。
大业二年(606年)，改泉州为闽州，温麻属之。
大业三年(607年)，大裁郡县，福建三郡并为一，九县裁为四，改闽州为建安郡，温麻县并入闽县。
武德六年(623年)，复置温麻县，同年改名连江县。属泉州。
天宝元年（742年），县治从伏沙迁移今福建连江县城。
1983年7月，连江归福州市管辖至今。