當鮮卑人生活在鮮卑山一帶的時候，是否有過統一的部落聯盟我們已經無從考究，但可以肯定，其南下遷移過程是各部落獨立進行的，並不存在統一的領導。鮮卑人能夠迅速地擴散到整個漠南草原，在某種程度上也是得益於他們各部落的各行其是。鮮卑人的南遷沒有引起當時人的關注，以至在史籍中沒有留下相關的記載，也是出於同樣的原因。在佔據漠南草原以後，由於鮮卑人的分佈區呈東西狹長狀態，東部與西部間距離遙遠、交通困難，東部與西部的鮮卑人之間的交往反而不如他們各自與南方的漢王朝和北方的匈奴多。東部與西部的鮮卑人對待漢王朝的態度也存在一定的差異，東部以偏何為代表，大多與東漢關係密切，而西部的鮮卑人與漢王朝卻是更多地處於若即若離的狀態。當他們進入漠北草原並試圖控制全部蒙古草原的時候，鮮卑人越來越意識到團結的重要，他們需要統一的領導來凝聚鮮卑人的力量。時勢造英雄，在這種形勢下，檀石槐應運而生。檀石槐大約生活在公元137至181年，這是後代學者推算的大致年代。他的父親名叫投鹿侯。據說，投鹿侯從軍打仗，一去三年，他的妻子在家卻生了個兒子。投鹿侯歸來發現後大怒，質問妻子到底是怎麼回事，據史書記載，他的妻子回答道：“嘗量行，聞雷震，仰天視而電入其口，因吞之，遂妊身，十月而產。”投鹿侯把孩子扔到荒郊野嶺，但他的妻子卻悄悄地通知孃家人，讓他們偷偷地將這個孩子撿回去撫養。這個孩子就是後來的檀石槐。
真實的情況顯然是，檀石槐是投鹿侯之妻的私生子，他的生父到底是誰，這在當時恐怕是隻有投鹿侯的妻子自己才知道的秘密，後代的歷史學家們自然無從得知。當時鮮卑婦女的社會地位比較高，除了軍事行動之外，社會生活的大多數領域，都是婦女握有最終決策權。投鹿侯明明知道妻子與人私通，但沒有掌握真憑實據，自然也是無可奈何。死裡逃生的檀石槐由外祖父家收養，慢慢長大，在草原艱苦生活的磨鍊下，到十四五歲時，已經具有成年男子的體魄。而使他聞名草原的是一次規模不大的戰鬥。一個鮮卑小部落的首領ト賁邑率人搶了檀石槐外祖父家的牛羊。在草原生活中，這原本是十分常見的事情。對農耕民族來說，沒有明確宣戰時，他們與鄰人自然就是處於和平狀態；而對草原民族而言，在沒有正式締結和平盟約時，他們與鄰人自然就是處於戰爭狀態的。在遊牧民族的價值觀中，劫掠並不是可恥的事情，而是他們表現勇武的機會，是他們增加財富的可選擇的手段。草原生活是艱苦的，不僅僅因為遊牧人要應對惡劣的自然環境和隨時可能到來的猛獸，還因為遊牧人要隨時提防自己的同伴與鄰居。草原民族的精力常常被浪費在這種內耗之中，所以，一且當他們在一位傑出領袖的領導下團結起來，消彌內部的爭鬥之後，他們就會爆發出令世界為之震顫的力量。
檀石槐得知外祖父家的牛羊被掠走的訊息後，單人匹馬向劫掠者追去，在幾乎殺死了所有劫掠者之後，檀石槐趕著被掠走的牛羊歸來。外祖父家所在部落的所有人都不敢相信，這個十四五歲的孩子孤身一人竟能夠打敗他們部落所有男人都對付不了的劫匪，但是，擺在他們面前的牛羊卻又使他們不得不相信。檀石槐的武勇一時間傳遍了各部落，僅僅十幾歲的檀石槐迅速被擁立為本部的首領。鮮卑人此時最基層的社會組織就是由親屬家庭組成的部落，在鮮卑人中，原始的民主風尚還比較流行，部落成員公推他們認為合適的人選來擔任部落的首領。在鮮卑人的心目中，首領首先需要具備的素質就是武勇，只有武勇的戰士才能領導他們抵禦強敵與猛獸。十幾歲的檀石槐在成為部落首領之後表現出非凡的才能。他勇敢、公正，能夠非常好地處理部落內的所有問題，也能協調好與其他部落的關係，深得本部人的擁戴。在他的領導下，其部落越來越強大，周邊的鮮卑部落紛紛歸附檀石槐在今山西省陽高縣以北三百里的彈汗山（今內蒙古商都縣附近）建立了自己的王庭，東征西討，大約在公元2世紀中葉以後，最終統一了鮮卑各部，並領導鮮卑人打敗了北方的丁零、西方的烏孫，以及東方的夫餘人，完全控制了蒙古草原。按《魏書》的記載，檀石槐控制下的地區南北達七千餘里，東西達一萬二千餘里，蒼茫大漠，巍峨祁連，竟全部成為鮮卑牧羊縱馬之地，檀石槐的聲勢一時無兩。從未有哪位鮮卑人的首領控制過如此之多的部落，統治過如此廣闊的地域歷來分散自主的鮮卑人也沒有統治廣土眾民的制度。
為了對所屬各部進行有效的管理，檀石槐借鑑匈奴人將帝國分為左、中、右三部分的方法，將其統治下的所有部落劃分為東部、中部、西部三大區域。自漢朝的右北平郡以北，東至遼東郡塞外與夫餘、穢貉各族的居住地相接，為東部，共包括二十多個較大的部落，由東部大人彌加、朗機、索利、槐頭統轄；自東漢右北平郡以北，西至上谷郡以北，為中部，共包括十多個較大的部落，由中部大人阿最、闕居、慕容統轄；自漢上谷郡以北，西至敦煌郡以北與烏孫人居住區相接，為西部，共包括二十多個較大的部落，由西部大人置鞬落、羅日律、推寅、宴荔遊統轄。三部大人直接控制較大的部落，由較大的部落領導較小的部落，而所有的鮮卑大人都聽命於檀石槐。現代學者大多猜測，東部大人槐頭統治的部族後來發展為鮮卑宇文部，而中部大人慕容就是後來建立諸燕政權的鮮卑慕容氏的祖先。但是，檀石槐所確立的統治方式決定了鮮卑人並未形成自己的國家，他們只是建立起一個空前龐大的軍事大聯盟。在軍事大聯盟內部，東、中、西各部以及各部大人之間的關係是非常複雜的。這個聯盟只是一個鬆散的軍事貿易同盟。各部“割地統轄，各有分界”，部落聯盟的意義並不是把分裂的邑落合而為一，只是在不改變邑落內部組織的基礎上聯合起來，對於若干和共同利益有關的公共事業，特別是對外貿易、軍事攻守等方面採取一致的行動罷了。
檀石槐統一鮮卑諸部之際，正是東漢王朝走向衰落之時，遊牧民族與農耕民族間勢力的此消彼長對檀石槐十分有利。鮮卑人已經取代匈奴人成為蒙古草原的主人，各遊牧民族都處於檀石槐的領導之下，其控制的地域面積甚至遠遠超過了東漢的疆域，檀石槐與鮮卑權貴們開始重新定位鮮卑與漢王朝的關係了。一句話，今非昔比，他們不願意再以漢王朝附庸的身份出現在蒙古草原上，那會降低他們在草原民族中的威望。在統一鮮卑各部與蒙古草原之後，檀石槐開始對漢王朝的北部各郡進行試探性進攻。他需要充分了解漢王朝的實力，才能準確判斷出是否可以徹底打敗這個老大的農耕帝國。公元156年秋，檀石槐率軍攻打雲中（今內蒙古呼和浩特西南），開始了與東漢王朝間的拉鋸戰。158年，鮮卑侵擾東漢的北疆，東漢王朝派張奐率南匈奴的部隊出塞迎擊，斬鮮卑二百人。159年，鮮卑攻進雁門關，殺東漢邊防將士數百人，抄掠而去。164年，鮮卑千餘騎襲擾遼東屬國。167年，檀石槐所屬騎兵數萬人分為幾路殺入緣邊九郡，殺掠無數。鮮卑人的連年進犯使漢王朝應接不暇。但是，檀石槐已經統一草原，北方形勢發生了根本性變化這一點卻未能引起漢朝君臣的充分重視。因為在此之前，也曾有鮮卑人的部落對漢王朝的邊郡構成嚴重威脅。101年，遼東鮮卑攻入漁陽郡，殺太守張顯；121年，鮮卑首領其至鞬殺雲中郡太守成嚴；126年，鮮卑人殺代郡太守李超。在不到三十年的時間裡，竟然有三位東漢王朝的地方最高行政長官死於鮮卑人之手。
漢王朝的君臣們認為，檀石槐與這些鮮卑人的首領是沒有區別的，他們竟然想用西漢初年應對匈奴人的辦法來應付檀石槐，提出與檀石槐進行“和親”。漢王朝遺使冊封檀石槐為王，要將公主下嫁檀石槐，並每年送給鮮卑人一定數量的禮物，但是檀石槐拒絕了。檀石槐已經看透了漢王朝的腐敗無能，他指揮鮮卑人加大了對漢朝北方各郡的攻擊力度，漢王朝幽州、幷州、涼州所屬各郡沒有一年不面對鮮卑人的侵擾。在如何對付鮮卑人的問題上，漢王朝的大臣們意見不ー。以蔡邕為首的主守派認為，鮮卑“兵利馬疾，過於匈奴”，作戰中“來如飛鳥，去如絕弦”，再加上現在東漢王朝的情況已遠遠不及漢武盛世，在這種情況下與鮮卑騎兵進行大規模決戰無疑是危險的。蔡邕強調漢軍應該以堅守邊塞的防禦戰為主。以遼東太守夏育為代表的主戰派則自恃有和鮮卑作戰並獲勝的經驗，狂妄地認為，只要徵調幽州各郡的部隊，集中兵力出塞，去蒙古草原尋找鮮卑人的主力與之決戰，用不了一年半載，就可以徹底打敗鮮卑人。我們今天反觀這段歷史可以發現，蔡邕的建議雖然失之保守，但的確是已處於內外交困狀況的漢帝國在當時不得不採取的對策。但是，立功心切的田晏買通宦官王甫遊說漢靈帝，最終，在公元177年，漢靈帝派夏育、田晏、旻各率騎兵一萬，分三道出兵塞外，進攻鮮卑。
檀石槐命令三部大人分別迎戰，漢軍大敗而歸，三路主帥僅率數十名騎兵狼狽地逃回塞內。漢王朝的君臣們沒有意識到的另一個問題是，在當時全球氣溫下降的過程中，漠北草原受到寒冷氣候的破壞，氣候之鞭正在將鮮卑人驅趕向南方。如果不願意像匈奴人那樣遠走異域他鄉，鮮卑人就必須贏得對漢王朝的戰爭，以便可以南進獲取生活資料。《魏書》記載了在檀石槐領導下鮮卑人的強盛，但也指出，在檀石槐統治期間，鮮卑人中已經出現了食物匱乏現象。這一問題時時困擾著檀石槐，甚至當他漫步於老哈河畔的時候，腦海中仍然縈繞著這個難題。當看到老哈河中魚很多的時候，檀石槐馬上想到，可以透過捕魚來補充食物來源。由於不善於捕魚，檀石槐發兵“汗國”，俘虜了一千多家“汗人”，讓他們居住在老哈河畔為鮮卑人捕魚。我們在其他史書中找不到這個“汗人”與“汗國”究竟是指東北亞的哪一個民族。有人認為，“汗”可能是“韓”的同音異寫，“汗國”就是“韓國”。當時在朝鮮半島的南部居住著三韓民族，馬韓、辰韓和弁韓，“汗人可能指的就是三韓之人。
三韓民族確實精通海上捕撈業，但問題是，沒有任何證據可以證明，在檀石槐的時代，鮮卑人的勢力已經達到朝鮮半島南部。發兵遠征僅僅是為了擄獲漁夫，可見鮮卑人的食物匱乏已經相當嚴重。老哈河之魚恐怕也不能從根本上解決這一問題，南下劫掠漢王朝的北邊諸郡就成為最現實可行的解決辦法。因此，檀石槐不可能與漢王朝和親，他不能斷絕這最後一條解決鮮卑人食物匱乏的渠道。檀石槐面對食物問題束手無策，而漢王朝的君臣們則對檀石槐與鮮卑人束手無策。就在東漢王朝無力抵禦南下的鮮卑人的時候，命運再一次將這一切輕輕撥轉。公元181年，鮮卑人的英雄檀石槐病逝，年僅44歲。失去了傑出的領袖，草原民族往往很難克服其致命的弱點——內部的紛爭。當不存在一位能使各個部落都傾心擁戴的領袖的時候，沒有什麼可以阻止草原民族的內部分裂。分裂中的草原民族，他們最大的敵人就是他們的同伴，他們因此失去了一切活力，再也無力向草原以外進軍了。在檀石槐去世三年後，漢王朝統治下的中原地區爆發了黃巾大起義。這場轟轟烈烈的農民大起義雖然被鎮壓下去，但是在鎮壓黃巾起義的過程中，各地軍閥的實力大增，呈尾大不掉之勢，不再聽命於中央，東漢王朝名存實亡，中原各地陷入軍閥割據混戰的局面。中原政權已無力北伐草原，也許這是命運對鮮卑人的青睞。