匈奴是活躍於我國北方的古老遊牧民族之一。從戰國時期開始，就有中原國家與匈奴人來往的記錄。秦漢時期，不斷南下遊牧的遊牧人威脅到了中原王朝的存亡，因此雙方不斷爆發衝突。西漢王朝建立後，漢高祖劉邦率軍40萬北伐匈奴，結果被冒頓單于的騎兵圍困在白登，幾乎被擒。漢武帝時期，漢朝先動了三次大規模的北伐（漠北之戰），才將匈奴的主力擊敗，解除了匈奴對南方的威脅。等到了東漢時期，經過進一步的打擊後，匈奴族徹底瓦解為兩個部分。北匈奴往西遷移最後到了歐洲；南匈奴則進入河套地區依附於漢朝，成為漢朝的附庸。
東漢末年，為了鎮壓各地的起義，中央朝廷不斷要求南匈奴派兵進入中原作戰。黃巾之亂平定後，就有相當一部分南匈奴人在河北、山西形成了割據。其中比較有名的就是南匈奴的於夫羅單于。187年，於夫羅率領匈奴騎兵進入漢朝，幫助鎮壓鮮卑族的叛亂。不久後因為匈奴內亂，他無法再返回匈奴故地。於夫羅與河內郡的張楊狼狽為奸，攻城略地，結果遭到了兵力強大的袁紹的驅逐。
於夫羅單于割據黃河一帶，最終被曹操給抓住。曹操因為他是匈奴的單于，並沒有殺掉他，只是兼併了他的匈奴騎兵。曹操早就想控制匈奴，一直苦於沒有機會，而於夫羅就成為了曹操控制匈奴的人質。
三國時期，曹操消滅袁紹以後，威望越來越大。以至於當時的鮮卑、匈奴、羌都少數民族都因為懼怕曹操，表示臣服。於夫羅的弟弟呼廚泉為了向曹操表示忠心，代表匈奴來到鄴城進貢，結果被曹操給扣留了下來（奸雄）。曹操藉機把南匈奴劃分為5部，5部之間各不相關，並委派自己的官員去管理匈奴。
就這樣，匈奴變得更加脆弱。也就是從曹操時代開始，匈奴必須要派人質留在中原。一旦匈奴有變，中原就可以利用人質。到了幾十年後，西晉統一三國時，匈奴的人質劉淵留在晉朝都城洛陽，這個劉淵就是於夫羅的孫子。如果不是因為西晉的內亂（八王之亂），他是不會有機會回到北方的，也更加不會有機會發動永嘉之亂。五胡亂華時期，大放異彩的匈奴人劉淵、劉聰、劉曜等人均是於夫羅的後代。可以說，西晉王朝在控制少數民族的手段上遠遠不如曹魏政權。
