隋置
古庐子国，又巢伯国。春秋时舒国及群舒诸国。隋开皇三年(583年)，改合州为庐州。大业三年(607年)四月，改庐州为庐江郡，均治合肥县。
唐武德三年(620年)，改庐江郡为庐州，仍治合肥县，属贞观元年(627年)划设的淮南道。
天宝元年(742年)，复名庐江郡，仍治合肥，仍属淮南道。至德元载(756年)十二月，置淮南节度使于扬州(今扬州市)，庐江郡仍属之。至德二载十二月，复名庐州，仍属淮南节镇。
中和三年(883年)，庐州人杨行密据本州，经营江淮、江南地区。天复二年(902年)三月，唐封杨行密为吴王，原本以庐州为根据地，后改都扬州，庐州仍属吴。唐亡(907年)，吴自立，仍据江淮间，庐州属之。
五代十国庐州及治所合肥县先后属吴(902年三月至937年十月)、南唐(937年十月至975年十一月)。吴武义二年(920年)，升庐州为德胜军，为节镇，又称庐州节度使，均治合肥。
后周显德五年(958年)三月壬寅，改德胜军为保信军节度，仍为庐州及合肥县治。
。宋初，仍沿旧制，庐州仍治合肥县，改属淮南道。至道三年(997年)，改属淮南路。熙宁五年(1072年)，分淮南路为东、西两路，西路治寿州(今寿县城关镇)，庐州改属淮南西路。
南宋改淮南西路治庐州，为南宋抗金重镇和输送抗金物资的集散地。绍兴初，为避金兵，淮西路寄治巢县(治今巢湖市区)。绍兴七年(1137年)，淮西将郦琼以庐州叛降刘豫伪齐。十一年，为杨沂中收复。乾道二至五年(1166～1169年)，在和州置司。五年，淮西路复治庐州。
元至元十四年(1277年)，在庐州设淮西路总管万户府，属江淮行省(治扬州，今为市)淮西道宣慰司(治庐州，今合肥市)庐州。十五年，升庐州为路，置总管府，仍属江淮行省(治今扬州市)的淮西道(治庐州)。二十八年十二月，江淮行省迁治汴梁路(今开封市)，改名河南江北等处行中书省，简称河南行省。庐州路仍治合肥县，庐州路改属河南行省淮西江北道，简称淮西道(治庐州)。
元末，红巾军起义政权大宋在庐州设江淮行省。龙凤十年(1364年)七月，改庐州路为庐州府，为江淮行省省会。不久，废江淮行省，改属朱元璋设于应天府(今南京市)的江南行省。
明洪武元年(1368年)八月，庐州府改属中书省，仍治合肥县。十三年(1380年)正月，庐州府直隶六部。永乐元年(1403年)，庐州府改隶南京，又称南直隶、直隶南京(治今南京市)。
崇祯十七年三月十九日(1644年4月25日)，崇祯帝自缢，明亡。明亡后，南明弘光政权在抗清英雄史可法的领导下，置滁和镇，为南明江北四镇之一，庐州府属之。
清顺治二年闰六月乙巳(1645年8月19日)，庐州府改属江南省(省治江宁府，今南京市)。康熙六年七月甲寅(1667年8月30日)，改属安徽省(省会治安庆府，今安庆市)。
咸丰三年(1853年)四月二十三日，安徽省会迁驻庐州府。十二月十日，安徽巡抚江忠源赶到庐州府上任，定庐州府为临时省会。以后，庐州府成为清政府与太平军反复较量的重要战场。咸丰四年一月十四日，太平军攻克庐州府。咸丰五年十一月十日，清军复陷合肥。咸丰八年八月二十三日，太平军再次收复庐州府。同治元年五月十三日，英王陈玉成被叛徒苗沛霖骗去寿州(今寿县城关镇)，清军再度占领庐州府。当年，因惧捻军及太平军余部，以庐州府无雄关天堑可恃，仍将安徽省会迁回安庆府。庐州府作为安徽临时省会前后10年。
同治四年六月甲午(1865年7月23日)，庐州府改属安徽省安庐滁和道(道治安庆府)。光绪三十四年五月甲午(1908年6月8日)，庐州府改属皖北道，直至清亡。辛亥年农历九月十九日(1911年10月28日)，合肥光复，废道。
民国元年1月，废庐州府，存附郭合肥县，直属安徽省。
