百色是由壮语中的原始村落"博涩寨"的称名而来的，意思是洗衣服的好地方。百色还被称之为"鹅城"。
百色古为百越之地。秦始皇在岭南置三郡（桂林郡、南海郡、象郡）后，百色届象郡。汉武帝平定南越国后，百色属桂林郡增食县地。唐朝，在今百色地置羁縻添州（州治在城南之古城角，今那毕乡大和村）、羁縻归乐州（今永乐乡境内）和武隆县地（今百兰乡及巴马县部分地区），属邕州都督府管辖。元朝，百色称天州。清雍正七年（1729年）分田州土州地设厅制，迁思恩府理苗同知驻百色，设百色厅，次年建城。这是百色这个名字第一次出现在世人面前。光绪元年（1875年），田州改土归流，升百色厅为百色直隶厅。
民国元年（1912年），改百色直隶厅为百色府。1929年12月11日百色起义胜利，建立百色县临时苏维埃政府。
1949年12月5日百色县解放，归百色地区领导（行署驻百色城）。1983年10月，百色县改为百色市。2002年6月2日经国务院批准（国函[2002]47号）：（1）撤销百色地区和县级百色市，设立地级百色市。市人民政府驻新设立的右江区。