304年鲜卑、乌桓血洗邺城之前，有一对父子离开了邺城。父亲刘渊、儿子刘聪，名字像是汉人，其实是匈奴。
公元三、四世纪是匈奴的中衰期。
在往昔最辉煌的时代，匈奴统治着长城以北所有民族，疆域东起兴安岭、北至贝加尔湖、西抵阿尔泰山，幅员之辽阔，远超大汉。匈奴单于曾经围困过汉高祖、调戏过吕太后、焚毁过汉文帝的行宫，在他写给大汉皇帝的信中，辟头就是“天所立匈奴大单于敬问皇帝无恙”，或者“南有大汉，北有强胡。强胡，天之骄子也！”
南迁的南匈奴也是有故事的，刘渊父子即是故事的主人公。
西晋太康年间（公元280年-公元289年），晋武帝将“部帅”这个有异族色彩的称谓改为汉人的官名“都尉”，晋武帝的用意大概是淡化民族差异，让南匈奴在他的治下驯化成汉人。晋武帝当然不会想到，仅仅数年之后，随着他撒手人寰，盛极一时的西晋王朝马上四分五裂。
刘渊的另一个身份是匈奴左部都尉，这个身份是从他父亲刘豹那儿继承的。刘渊出身匈奴屠各部，其时南匈奴的传统王族虚连题氏已经没落，屠各部是魏晋以来匈奴中最强大的种群。
刘豹统领匈奴左部的时候，曾经短暂地统一过匈奴五部。这引起了当时执政者司马师的猜忌，司马师采纳邓艾的计策，再次将匈奴一分为三，刘豹仍担任匈奴左部帅。到了司马昭执政时期，南匈奴重新被分为五部，刘豹仍统领匈奴左部。后来刘豹病死，刘渊接替为匈奴左部都尉。
原因之一是魏晋朝廷不允许再有南匈奴大单于出现。
当年曹操的意图，是要彻底消灭南匈奴政体，使匈奴溶解到汉人之中。因此，曹操将南匈奴分拆五部，分而化之；又将呼厨泉软禁在邺城，却没有另立单于取而代之，而是派右贤王去卑回并州监国，使单于名实分离。
倘若没有西晋末年的乱世，匈奴这个民族，起码南匈奴这一支将会很快消亡。《三国志》中，鲜卑、乌桓、东夷都有传，唯独匈奴没有传，或许在陈寿看来，这已经没有必要了吧。
原因之二是南匈奴内部有权力之争。
汉武帝派霍去病受降，休屠王中途变卦，被浑邪王斩杀，休屠王家族因此沦为官奴隶，休屠王太子在宫中养马，后来被汉武帝发现、赏识，赐名金日磾，后来成为西汉名臣，休屠王族人则被安置在陇西、北地、上郡、朔方、云中五郡，汉武帝在当地划出属国，让匈奴居住，保持匈奴习俗，相当于今天的自治区。五郡之中，上郡、朔方、云中三郡都在并州。所谓“屠各”，就是“休屠各”、“休著各”、“休著屠各”的不同译法而已。
到东汉末年，屠各部与羯胡、卢水胡等一样，被视作血统不纯正的杂胡。史书上不止一次记录了时人对刘渊及其族人的蔑称，称之“屠各子”或“屠各奴”。当时南匈奴已南迁并州，南匈奴王庭已搬迁到西河国的左国城，但南匈奴单于已无法树立绝对的权威控制匈奴部众，特别那些桀骜不驯的匈奴杂胡土豪。
中平四年（公元178年）六月，幽州张纯叛乱，汉灵帝征发匈奴平叛，南匈奴单于羌渠派左贤王率领匈奴骑兵去幽州打仗，但是匈奴们不干了，幽州的事与我们并州人何干？于是“十二月，休屠各胡叛”。在这场叛乱中，屠各部攻占匈奴王庭，杀死了单于羌渠，改立须卜骨都侯为单于。
单于羌渠就是呼厨泉的父亲，呼厨泉与哥哥於扶罗逃出屠各族控制的并州，打算到洛阳请东汉朝廷帮忙复国。可是他们运气实在不好，就在这时汉灵帝死了，董卓进京，天下大乱。兄弟俩因此滞留中原十多年，於扶罗在流亡中继承了单于的身份，七年后，於扶罗病死，呼厨泉接任单于，继续流亡，直到建安初年投靠袁绍，才得以归国。而须卜骨都侯为单于只在位一年就病死了，所以在十多年时间里，匈奴没有单于，政权掌握在屠各部手中。
对于单于的宝座，屠各族是怀有觊觎之心的，刘豹并吞五部，自然就是想做单于了。只是刘豹虽有实力，却无名份，匈奴王族成员虽有继承权，却无实力。泰始七年（公元271年），右贤王刘猛进行了一次冒险，他自称单于，叛逃出塞，试图恢复匈奴故国，但是除了他自己的亲信，并没有多少匈奴响应。刘猛很快就失败了，他的手下砍下了他的脑袋，向西晋投降。刘猛反叛对匈奴王族是一次沉重的打击，南匈奴王族的颓势更加无法挽回。
刘宣也是南匈奴王族后裔，出身与辈分都很高。刘宣与刘猛应该是亲兄弟或者堂兄弟关系，但性格志向相差很大。刘猛想着要恢复南匈奴故国，刘宣却是好读汉人书的。史书上说他“朴钝少言，好学修洁”，他曾经专门跑去青州乐安，在大儒孙炎门下学习《毛诗》和《左传》。但如果真理解成刘宣想做饱学硕儒，那就错了，读好汉人的书，是为了融入汉人主流社会。刘宣经常感慨：“宣若遇汉武，当逾于金日磾也。”他的志向，就是能成为金日磾那样的大国名臣。在人生理想上，刘宣与刘渊有共同语言。
然而刘宣对“单于”的兴趣并不大，况且刘猛殷鉴不远，刘宣知道虚连题氏的辉煌一去不复返，匈奴，已是屠各部的匈奴了。因此，刘宣将“左贤王”让给了刘渊。
刘宣觉得西晋气数已尽，匈奴复国有望。于是秘密召集匈奴贵族，说：“我们的祖先与汉王室结为兄弟，后来汉朝灭亡魏晋代兴，我匈奴单于空有名号，却不再有尺土疆域，至于我匈奴诸王侯贵族，更是与普通百姓没有两样。如今司马氏骨肉相残，四海鼎沸，我匈奴兴复旧邦，正在此时。左贤王刘渊姿器绝人，才干超世，倘若苍天不是想复兴我匈奴，必定不会降生此人。”
当时刘渊还在邺城为成都王效力。刘宣于是派出匈奴贵族呼延攸去邺城秘密会见刘渊，告之复国计划。呼延攸是刘渊的亲信，他的姊妹是刘渊的夫人。
刘渊心动了，于是借口要还乡参与葬礼，向成都王请假，却遭到成都王的拒绝，原因不详。或许成都王对这个匈奴还留有戒心，或许只是因为战事在即，正是用人之际。
成都王相信了。但是直到成都王死亡的那一天，他都没有看到刘渊派来的一兵一卒。
