先秦时期，岭南地区属百越部落的南越部， 百色属南越的一部分。

公元前214年，秦始皇在原百越地区置桂林、象、南海三郡，广阔的岭南地区开始纳入中原王朝。其时，今百色境属象郡。

《史记》卷六《秦始皇本纪》记载：“三十三年，发诸尝逋亡人、赘壻、贾人略取陆梁地，为桂林、象郡、南海，以適遣戍。”。《后汉书》卷八六《南蛮传》：“秦并天下，威服蛮夷，始开领外，置南海、桂林、象郡。”

秦末汉初，百色为南越国属地。

西汉元鼎六年（前111年），于夜郎地置牂柯郡，同年平定南越国，调整郡县设置，改秦桂林郡 为郁林郡。今百色境属益州刺史部牂柯郡和交趾刺史部 郁林郡 。

三国时期，今百色境地分属吴国交州郁林郡和蜀汉益州兴古郡。

西晋，今百色境地分属交州郁林郡和宁州兴古郡。

东晋 大兴元年（318年），从郁林郡 分置晋兴郡，今百色境地分属晋兴郡和兴古郡。

南北朝时期南朝 -宋时期

南北朝，今百色境大体属广州（宋）晋兴郡和宁州（宋）西平郡。标注广州（宋）、宁州（宋）是上图为南朝宋，其他几代未查，有可能命名不同。且由于时期较短不再一一列出。

隋朝，今百色境部分属隋郁林郡，其余部分属当地部族。

从秦朝到隋朝，这八百多年的时间里，今百色市境内没有一个县级行政机构治所。

唐朝，在百色地置羁縻州，今百色地区境内存在六个羁縻州。安德州，治所在今靖西市安德镇，属安南都护府管辖。双城州，治所在今凌云县下甲乡，属黔州都督府管辖。归乐州，治所在今百色市西北，属邕州都督府管辖。万德州，治所在今平果县东北，属邕州都督府管辖。思恩州，治所在今平果县旧城镇，属邕州都督府管辖。侯州，治所在今田东县作登乡，属邕州都督府管辖。 田州的情况比较特殊。其治所位于今田阳县东南，辖武龙、横山（田东县前身）、如赖三县。此时为流官，后被废，复置之时成了羁縻州。后来的田州岑氏土司在桂西影响深远。

五代十国，百色先属楚，后属南汉。

宋至道三年(997)定天下为15路，设广南西路。今百色境大体在一州之内了，属广南西路邕州。

元世祖 至元十一年(1274年)废广南西路入湖广行省，升田州为田州路，今百色境各县归属如上图，不辖县的州大都为羁縻州。

明初，撤销羁縻龙川州、归乐州、唐兴州、睢暇州以及武龙县，其地并入田州。今百色境各县归属如上图，。洪武二年（1369年）田州路升为田州土府，嘉靖七年（1528年）田州土府降为田州土州。

清康熙三年（1664年）田州土州改属思恩府，府治驻武缘县（今武鸣县）。雍正七年（1729年）分田州土州地设厅制，迁思思府理苗同知驻百色谓百色厅。翌年建城。这是百色得名之始。今百色境大体分属思恩府、泗城府、镇安府。

光绪二年(公元1876年)升百色为直隶厅，辖境相当今百色市区及田东、田阳等地，这是百色首次成为地市级行政机构。

民国初，今百色市地区主要属田南道管辖， 百色直隶厅改称百色府，二年废府设百色县。田南道治所在百色县，只有靖西和那坡一带属镇南道管辖。

民国十八年（1929年）12月11日，百色起义成功，成立百色县苏维埃政府。

民国十九年（1930年），广西始建民国制度，百色属百色民团区。

民国三十一年（1942年）至解放前夕（1949年），广西设立行政督察区，今百色地区设第五区，区署驻百色。

1951年百色专区的行政区划地图

1949年置百色专区，专员公署驻百色县。辖百色、西隆、田阳、万冈、田林、敬德、凤山、田西、天保、乐业、向都、凌云、田东等13县。

1950年东兰县划入；敬德、天保二县划出归龙州专区。百色专区辖12县。

1951年平治、果德、那马、靖西、镇边、敬德、天保7县划入；向都县划出归崇左专区；那马县划出归宾阳专区。百色专区辖17县。

1956年百色专区的行政区划地图

1952年撤销田西、西隆、西林三县，改设田林县和隆林各族自治区；撤销凌云、乐业二县合设凌乐县；撤销敬德、天保二县，合设德保县。

1953年撤销万冈县。

1955年设巴马瑶族自治县。

1964年的百色专区

1962年撤销凌乐县，恢复凌云、乐业二县。

1963年恢复西林县。

1982年的百色地区

1965年凤山、东兰二县和巴马瑶族自治县划归河池专区。

1971年百色专区改置百色地区。

1999年的百色地区

1983年10月，撤销百色县设县级百色市（县级）。

2021年的百色市行政区划地图

2002年6月2日，撤销百色地区，设立地级百色市。撤销县级百色市设立百色市右江区，以原县级百色市的行政区域为右江区的行政区域。百色市辖原百色地区的田阳县 、田东县 、平果县 、德保县 、靖西县 、那坡县 、凌云县 、乐业县 、西林县 、田林县 、隆林各族自治县 和新设立的右江区 。

2015年8月1日，撤销靖西县，设立县级靖西市。

2019年8月26日，撤销田阳县，设立百色市田阳区。

2019年12月26日，撤销平果县，设立县级平果市。

截至2021年，百色市下辖2个市辖区（右江区 ，田阳区）、7个县（田东县 、德保县 、那坡县 、凌云县 、乐业县 、田林县 、西林县 ）、1个自治县（隆林各族自治县 ），代管2个县级市（靖西市、平果市）。市政府驻地在右江区。