隋开皇十年(590年)改安远郡为大庾县,隶属广州总管府始兴郡。隋开皇十六年(596年)废始兴郡,大庾县亦由县改为大庾镇,入虔州南康县。
唐神龙元年(705年)复为大庾县,隶属江南西道虔州。宋淳化元年(990年),为南安军治。元至元十四年(1277年)改南安军为南安路总管府,大庾为府治。元至正二十五年(1365年)改南安路为南安府,大庾为府治。
民国元年(1912年)废府存县,大庾县直属江西省。1949年8月16日,大庾解放;8月26日成立大庾县人民政府,隶属江西省赣州督察专员公署。1957年2月9日,国务院批准大庾县更名为大余县。1997年起,属赣州市所辖。