羁字原义，为马络头；縻字原义为牛靷。羁縻，喻牵制联系之意，藉以形容天子与边疆四裔之关系，羁縻不绝。
我国于边疆设羁縻州，开始于唐。盖因唐之先世，生活早已胡化，而唐高祖、唐太宗父子，俱胸襟豁达宽仁，对于过去中国的夷夏观念极为淡薄，对于边疆四裔，都爱之一如华夏，待以恩德。高祖武德初，临涂羌内附，置临涂等三县。牂牱首领谢龙羽内附，以其地置牂州，是为广设羁縻州之张本。太宗贞观三年（公元六二九），党项羌酋长细封步赖臣服，任之为轨州刺史。贞观四年，唐将李靖平东突厥，俘颉利可汗，以其地分置定襄都督府，领德州、执失川、苏农州、拔延州等四州；云中都督府，领舍利州、阿史那州、绰州、思壁川、白登州等五州。各以其首领为都督刺史。是为唐大量设羁縻州之开始。
嗣后征服吐谷浑、党项、焉耆、龟兹、于阗等诸国，羁縻州续有增置。亦有不曾用兵，外族仰慕天可汗（唐太宗于贞观四年被四夷君长拥戴为天可汗）的威德，自动请愿内附的，唐亦从其愿望，分别置羁縻州。
大致大者为都督府，小者为州（间有特小不称州而称县者），州属于都督府，都督府属于都护府，都护府属于边疆的道。例如在西域的诸羁縻州属于陇右道，在东北诸羁縻州属于河北道。都督府设都督，州设刺史，皆由当地首领充任，得以世袭，虽贡赋版籍不上户部，然声教所暨，皆边州都督、都护所领，着于令式。
历高宗至玄宗，羁縻州时有增置，计突厥、回纥、党项、吐谷浑，隶关内道的，有二十九府、九十州。突厥之别部及奚、契丹、靺鞨降胡、高丽，隶河北道的有十四府、四十六州。突厥、回纥、党项、吐谷浑之别部，及龟兹、于阗、焉耆、疏勒、河西内属诸胡、西域十六国，隶陇右道的，有五十一府、一百九十八州。羌、蛮隶创南道的，有二百六十一州。蛮隶江南道的，有五十一州，隶岭南道的有九十三州。又有党项二十四州，其隶属不详。总计有府州八百五十六。
元代于边远之处，设宣抚、安抚等官，以抚辑诸蛮，是为土司，而羁縻州之名，不着于世。明代于湖广、川滇、贵州、甘肃等处，凡羌、番、苗、猺聚居之地，皆设土官，世掌之。有土知府、土知州、土知县等文职，及指挥使司，与千户、百户等武职。皆许土人世袭，统谓之土官。清初，仍袭明制，及雍正四年（一七二六），清政府用云贵总督鄂尔泰之议，实行改土归流，废除世袭土官，改派流官。从此两湖土司，大致绝迹，但黔、桂一带苗、猺区内，仍有土官存在。（李树桐）
羁縻州制度的创立及其设置的地区
隋唐两代，周边各族种类既多，分布地区亦广。各族情况不尽相同，其所设施，亦因时因地而有所差异。大抵以游牧为生涯的民族，皆随畜迁徙，居处靡常。有的虽有城郭庐舍，也往往未能经常居处，与以农耕为生涯的民族迥异。这些以游牧为生涯的民族也曾分部落治理其疆土。如突厥就有别部，契丹分其国人为八部，靺鞨亦有数十部。由于没有固定的住处，因而难于备悉其中的具体区分。
唐时，这些从事游牧生涯的民族在内降之后，唐朝就按照内地久己通行的制度，在它们的疆土上设置州县，并设置都督府以统辖所设的州县。当时在回(回)纥的土地上曾设置过六府七州，在党项的土地上曾设置过四州，都是具体的例证。这样设置的都督府和州县，一般都用本部落的人为都督、刺史、县令，这是和内地的州县不相同的，为了互相区别，这样的设置一般称为羁縻州。这是唐代特有的制度。
《新庸书•地理志》论羁縻州的设置，谓始于太宗平突厥之时。贞观四年(630)，颉利可汗破灭，唐因分其故地，左置定襄都督，右置云中都督，二府统之。可是在《地理志》中就有不同的记载。《地理志》中所载的以奚族土地所建的羁縻州中有鲜州和崇州，以契丹土地所建的羁縻州中有威州和慎州，皆谓在武德时就已经建立。并谓鲜州和崇州乃是由饶乐都督府析置的。而饶乐部督府始置于唐初，中间曾经废止过，至贞观二十二年(648)复置。如所言无讹，则羁縻州制度自唐初即已有之。核实而论，若追溯其渊源，还应上及隋时。唐戎州都督府(治所在今四川宜宾)所属的“诸蛮州”中，就有昆州、协州和曲州。这三州都是隋时所置，隋未乱离时废除，唐高祖武德元年(618)开南中复置。可能当时尚无此羁縻州的名称，故不为人听重视。
按照唐时的规定，羁縻州制度有都督府和州县的不同等级。都督府有领州的，也有不领州的。州也有领县和不领县的分别。这都是斟酌当地具体情形而有增损的。都督、刺史、县令不仅以其本部落人为之，而且皆可以世袭。举凡关内、河北、陇右、剑南、江南、岭南诸道皆有羁縻州。关内道的羁縻州是以突厥、回纥、党项、吐谷浑诸部设立的，分隶于单于、安北二都护府和夏州(治所在今陕西靖边北)、灵州(治所在今宁夏回族自治区灵武)、庆州(治所在今甘肃庆阳)、延州(治所在今陕西延安)四都督府。河北道的羁縻州是以突厥的别部及奚、契丹、靺鞨、降胡、高丽诸部设立的，分隶于安东部护府和营(治所在今辽宁朝阳)、幽(治所在今北京)二州都督府，陇右道的羁縻州是以突厥、回纥、党项、吐谷浑的别部及龟兹、于阗、焉耆、疏勒、河西内属诸胡、西域吐火罗等十六国设立的，分隶于安西、北庭两都护府和凉(治所在今甘肃武威)、秦(治所在今甘肃天水)、临(治所在今甘肃临洮)、洮(治所在今甘肃临潭)四州都督府。剑南道的羁縻州是以羌、蛮诸部设立的，分隶于松(治所在今四川松潘)、茂(治所在今四川茂汶羌族自治县)、嶲(治所在今四川西昌)、雅(治所在今四川雅安)、黎(治所在今四川汉源)、戎(治所在今四川宜宾)、姚(治所在今云南姚安)、泸(治所在今四川泸州)诸州都督府。江南道的羁縻州是以蛮部设立的，皆隶于黔州(治所在今四川彭水)都督府。岭南道的羁縻州也是以蛮部设立的，分隶于安南部护府和桂(治所在今广西壮族自治区桂林)、邕(治听在今广西南宁)、峰(治所在今越南越池东南红河之南)三州都督府。
应该指出，这些羁縻州最初都是设立在周边各民族的疆上上。如分回纥所置的瀚海、燕然、金徽、幽陵、龟林、卢山六府，即分别设于回纥、多览、仆骨、拔野古、同罗、思结诸部。可是到后来有很多的羁縻州竟然侨置在唐朝的版图中，贞观初年为突厥诸部所置的定襄和云中两都督府，后来就分别侨置于宁朔县和朔方郡。宁朔县在今陕西靖边县东，当时属于夏州，而朔方郡就是夏州。这仅是当时侨置羁縻州的一例，当时像这样的侨置实甚繁多，殆不胜枚举。这显示着唐代的力量己难以控制有关民族的疆土，至于西域吐火罗等十六国所置的羁縻州，则已随安西和北庭两都护府的失陷和陇右交通的阻塞，而无由闻问。当时未在吐蕃境内设置羁縻州。对于吐蕃的疆域及其间的区划，唐人亦鲜有记载，详情无由知悉。
