西晉時期，鮮卑族慕容部開始興起，慕容部首領慕容涉歸因為曾經幫助晉朝守衛柳城，被封為鮮卑單于，率部遷至遼東北部，開始加速建立政權的程序。慕容涉歸於283年去世，其弟慕容耐篡權，世子慕容廆被迫逃亡。兩年後，慕容耐被部下所殺，慕容廆被迎回繼位。慕容廆是鮮卑慕容部建國曆程中的一個關鍵人物，他在位期間為割據一方打下了基礎，他的兒子慕容皝在他去世四年後正式稱王，建立前燕政權。而慕容廆的兄長，卻率眾遠走萬里之外，也建立起一個強大的國家。

慕容廆的庶兄名叫慕容吐谷渾，當他們的父親慕容涉歸還活著時，曾封給吐谷渾1700戶作為他的部下。慕容廆繼位之後，有一次吐谷渾部下的馬和慕容廆部下的馬打架，慕容廆借題發揮，說：“父親讓我們兩部人馬分別管理，為什麼不離得遠遠的，而導致馬打架呢？”吐谷渾聽出了話裡的意思，雖然解釋說馬打架跟人沒什麼關係，但還是堅決表示，要率部離開，到離慕容廆“萬里之外”的地方去。於是，吐谷渾從遼東出發，率部西行。

吐谷渾出走之後，慕容廆大概是覺得自己逼走兄長，做得太過分了，內心感到愧疚，寫了一首《阿幹之歌》表示思念，鮮卑稱兄長為“阿幹”。慕容廆可能是真的感到慚愧，也可能只是做做樣子，畢竟，吐谷渾出走之後，自己少了一個潛在的實力派競爭對手。吐谷渾率部出走之後，一路西行，將近30年後，在今天的甘肅南部、青海、四川西北部地區建立起一個領土遼闊的政權。到他的孫子在位時，以他的名字作為自己部族和國家的名稱，從此，吐谷渾政權出現在中國歷史上。

吐谷渾國從公元313年立國，到公元663年滅亡，總共存在了350年之久，比魏晉南北朝時期幾乎所有的政權壽命都要長得多。吐谷渾在幾百年裡，和南北朝各國大體上都保持了友好的關係，曾接受過劉宋、北魏的封號。隋朝時，吐谷渾走向衰落，曾被隋朝兩次進攻，損失了大片土地，後來曾收復一些，並與隋朝聯姻。唐朝初年，吐谷渾被唐軍擊敗，分裂為東西二部。西部吐谷渾投降吐蕃，東部吐谷渾與唐朝聯姻，國王被封為青海王。663年，東部吐谷渾被吐蕃所滅，部眾後歸附唐朝。