关于匈奴刘氏是如何形成、何时形成，史学界和姓氏学家们历来都有不同的看法。
《元和姓篡》说得较笼统，只说匈奴刘氏"其先匈奴贵族，汉以公主妻之。北俗重汉，生因取母姓（刘氏）。后汉末右贤王刘去卑即其后也。"这里说匈奴是因尊重汉朝才将汉公主所生子女改姓刘氏的。据此看来，刘氏形成很早。
《新唐书·宰相世系表》则记载：“刘氏本出匈奴之族。汉高祖以宗女妻冒顿，其俗贵者皆从母姓。因改为刘氏。”这里明确记载刘氏为冒顿单于的后裔，为冒顿与汉宗女所生。但改姓刘氏的原因则是匈奴族贵者从母姓的习俗所致。
《晋书·载记·刘元海》则记载说：“匈奴刘氏为冒顿之后。汉高祖以宗女为公主，以妻冒顿，封为兄弟，故其子孙遂冒姓刘氏。”这里明确匈奴刘氏为冒顿后裔，但改姓原因则是冒姓。
本人认为，匈奴刘氏确实是冒顿单于的后裔，但刘氏形成的时间也即匈奴贵族改姓刘氏的时间，则不会很早，而应在较晚的汉魏之际。至于改姓的最根本的原因，是匈奴和汉族的民族融合，准确地说，则是东汉后期匈奴族南北分裂后南匈奴贵族南迁和汉化的结果。说匈奴贵族改姓刘氏是因为“其俗重汉”，“其俗贵者从母姓”或者冒姓，也是对的，但这些只是次要因素，而不是根本性的原因。
匈奴族原本是中国北方的一个游牧民族，主要分布在今外蒙古和中国内蒙古地区。公元前3世纪末，正当刘邦一统华夏，创建刘氏汉家王朝的时候，北方的冒顿单于东灭东胡，西逐月氏，南并楼烦、白羊王，北降丁零、浑庾，一统大漠南北，成为与汉朝相抗衡的北方大国。
汉高朝七车(前200年)刘邦亲率汉朝32万大军北征投降匈奴的韩王信。由于中计冒进，刘邦所率先头部队被匈奴围困在平城白登山（今山西大同东北）达7日之久。后用陈平之计，贿赂冒顿单于王后，才得解围与大军汇合，迫使匈奴退兵。这便是历史上著名的白登之围。
经此教训之后，汉高祖刘邦为了稳定北方边疆，便采取刘敬的“和亲”建议，将刘氏宗室之女冒充为公主，下嫁冒顿单于为于阏（即王后），并与冒顿约为兄弟，化干戈为玉帛。从此奠定了匈奴和汉族两族人民和睦友好的基础，也为后来匈奴刘氏的产生打下了契机。
冒顿单于与翁主（诸侯王的女儿叫翁主）刘氏生子稽粥，后继位为单于（匈奴族称国王为单于），史称老上单于。老上单于又娶汉朝翁主刘氏，生2子：军臣单于和伊稚斜单于。伊稚斜单于生3子：乌维单于、呴犁湖单于、且鞮侯单于。且鞮侯单于生子虚闾权单于。虚闾权单于生子稽侯狦，就是西汉晚期著名的呼韩邪单于。
呼韩邪单于生子囊知牙斯，即位后称为乌珠留若鞮单于。乌珠留若鞮单于生子比，任右日逐王，领南边八部。右日逐王比为冒顿单于的第十代孙。
当时，正值两汉更替，而匈奴族内部也争斗激烈。公元46年，单于舆去世，按匈奴族兄终弟及制，应传位给王昭君所生的儿子也即单于舆的弟弟右谷蠡王知牙师，但单于舆在生前将知牙师杀死，而传位给他自己的儿子蒲奴。
东汉光武帝建武二十四年（公元48年），右日逐王比因不满蒲奴单于继位，率匈奴南八部兵四五万人宣布独立，于十月自立为单于。单于比自立后，派遣使节至汉都洛阳，向东汉王朝奉藩称臣。从此，匈奴族分为南北两部，各自为王，单于比即为南匈奴的第一个单于。
此后，南北匈奴互相攻打，匈奴势力大为削弱。公元50年冬，南匈奴单于比与北匈奴相战失败，光武帝下诏南匈奴单于比率部从离五原西部寒80里处的南单于庭继续向内徙居到西河美稷（在今山西省西北、内蒙南部），以美稷为南单于庭。单于比又将南匈奴的各部屯居在汉朝北部的北地、朔方、五原、云中、雁门、代、定襄（在今内蒙、山陕、甘肃一带）等郡。
从此，南匈奴成为汉帝国的守戍边疆者和编户齐民。
汉朝每年赏赐匈奴贵族各种珍宝，向匈奴民众提供粮食。匈奴族与北方汉族错居通婚，匈奴单于还派贵族子弟到汉都洛阳学习汉文化。南匈奴自南下归属汉朝，就开始祭祀汉家祖先。这样，南匈奴便不断被汉族和汉文化同化。大约在这时，他们就以汉朝皇族后裔自居。
单于比生子单于长，单于长生子单于休利。南匈奴第三代第十三任单于休利；（公元128－140年）在位13年，因部众叛乱，被汉五原太守陈龟逼迫，与弟左贤王同同自杀而死。汉王朝改立当时正在汉都洛阳的单于休利近亲兜楼储为单于，并派兵护送回美稷单于庭。兜楼储单于与地休利的关系，史书未交代，很可能是其弟弟。兜楼储在位5年去世，居车儿单于在公元147年继位。居车儿大概也是兜楼储单于的弟弟，他在位25年，传位给他的儿子单于某。这位不知名的单于某在位6年去世，传位给儿子呼征。呼征单于在位2年，被汉中郎将经修擅自斩杀，并更立右贤王羌渠为单于。右贤王羌渠与单于呼征的关系，史书没有明载，但按匈奴习贯法，右匈王是单于的第二个候选继承人，因此，他可能是单于呼征的弟弟，也可能是他的侄儿或者儿子。但这一段时间汉朝对匈奴干涉较多，因此，羌渠以前三任单于都是父子相承，这样，这位右贤王有可能还是单于休利时候的右贤王，也即单于休利的弟弟或侄儿。
单于羌渠，便是五胡十六国中汉国的创建者刘渊的高祖父。
东汉中平五年（188年），汉中山太守张纯反叛，响应黄巾军起事。汉灵帝下诏调发南匈奴兵助剿。单于羌渠便派他的儿子左贤王于扶罗珍助汉讨平张纯和黄巾军。但匈奴国内有一部分人反对出兵，便在芙稷发动政变，攻杀羌渠单于，另立须卜骨都侯为单于。于扶罗因匈奴国内政变，便率兵留在汉朝境内，自立为单于，并至洛阳请汉朝廷出面裁决。但当时正碰上汉灵帝去世，汉朝天下大乱，自顾不暇，没有余力来管匈奴之事。这样，于扶罗不能归国，只好留处汉朝河东郡平阳县（今山西临汾市）。一年后，政变的匈奴人所立单于死了，匈奴"南庭遂虚其位，以老王行事。"而单于于扶罗则仍居河东平阳。
于扶罗单于在位7年，于公元195年去世，传位给他的弟弟呼厨泉单于。于扶罗生有2个儿子：长子豹，任左贤王；次子去卑，任右贤王。
当时，正值东汉末年，汉室衰落，天下大乱，汉献帝被董卓挟持至长安。建安元年（196年），汉献帝从长安东归京师洛阳时，匈奴单于派右贤王去卑率领数千骑兵前来侍卫天子，抗击李傕、郭汜等叛兵，一直把汉献帝护送到洛阳，后又送至许昌新都。
建安二十一年，曹操专权，南匈奴单于呼厨泉来朝，被曹操留在邺地（今河南临漳县），改派右贤王去卑归匈奴监管其国。
这时，汉朝廷有人认为，南匈奴久居塞内，已与汉编户齐民无异，但却不输贡赋，恐怕会户口滋蔓，难以禁制，朝廷应采取措施加以预防。不久，曹操便将南匈奴族人分为左、右、前、后、中五部，各立其贵人为部帅。羯族是匈奴的一支【被征服的民族，但在其管辖】随便翻翻中国史书，惨遭灭族的异族每朝每代都有，南北朝时期的羯族（波斯系白种人）就被屠杀殆尽，屠羯进行到高潮时，许多汉人也因为胡子长一点，鼻子高一点而连带被杀。
