西晉王朝原本極有可能成為秦漢帝國的繼承者，成為又一個強盛大一統王朝。但是，由於西晉制度本身和其他許多複雜因素，這個王朝注定是泥塑巨人。「八王之亂」、五胡亂華，將剛建立起的中央王朝的權威完全顛覆，隨後晉室旁系琅娜王司馬睿崛起。
說到司馬睿崛起，很多人肯定知道「王與馬共天下」這句話。這句話說的是琅琊王氏強大的社會資源對晉室南渡，以及東晉王朝的建立有著不可替代的作用。司馬睿與王導的合作還體現了王與馬的先後順序，王在前，馬在後。司馬睿得以在江東建立王朝，與王導的支持是分不開的，這樣的一種模式，也奠定了東晉一朝的基調，即門閥大族始終凌駕皇權之上，門閥士族的權力往往勝過皇權。
司馬懿苦心經營，在世的時候把士族門閥玩得團團轉，但是他的後世子孫還是要被士族門閥控制!王導背後的琅琊王氏代表著當時的北方南渡士族，更關鍵的因素是王導在江南為司馬睿遊說諸大族，使得當時還寂寂無名的他能夠得到江東大族的支持。
除了南渡和江東大族之外，在當時的東晉政治格局中，還有一種不可忽視的政治力量，就是流民集團。當時的流民主要是因為北方戰亂和外族入侵而產生的，滯留於江淮之間的流民，逐漸發展成為流民武裝，他們固然與北方的異族統治勢不兩立，與司馬睿建立的王朝也並不和諧。
流民武裝集團的領袖，也就是流民帥大多處於一種「中間狀態」，在南北之間成為緩衝，雖然暫時使得北方軍事力量難以南下，但這種軍事力量的存在畢竟是司馬睿朝廷所不能容忍的。對於流民武裝，司馬睿朝廷是極為防範的，譬如歷史上有名的中流擊水的祖逖，司馬睿根本容不下他，竟「逆用」之為徐州刺史，讓他回到江北;蘇峻過江之後，也被遣返至江北駐守。
司馬睿排斥流民武裝的策略雖然不無道理，但由此亦可見司馬睿之缺乏雄才遠見。這些流民帥滯留江北既不可能與胡人為伍，則必定會在當地形成一種不穩定的勢力，東晉王朝無力將他們整合到自己的統治集團中來，那麼後來的變亂就是理所當然的了。
司馬睿最初靠的是南渡大族和江東大族，自己本身沒有什麼實力，後來確實也想擺脫對大族的依賴，故而玩了一些權謀。司馬睿肯定不如曾祖父司馬懿那麼厲害，沒有那種手段，最後激起動亂，先是王敦之亂，再是蘇峻為禍。司馬睿過江時本無多少實力，雖有法統上的依據，但在亂世，這種政治資源是必須依靠強大的實力來支撐的。而王敦之亂和蘇峻為禍從事實上使東晉王朝感到必須在大族之外尋找新的力量支持，原先被東晉朝廷排斥的流民武裝成為他們所需要倚重的力量。
在眾多流民武裝中，最後真正崛起的是「北府兵」。北府兵的建制要從淝水之戰前開始，當時前秦在北方已經取得統一，因此南下是必定趨勢。東晉為此作戰備，勢必要大大強化已經為朝廷所用的流民武裝，將其變為一支強大的拱衛京師的力量。根據《晉書·劉牢之傳》記載：
太元初，謝玄北鎮廣陵，時苻堅方盛，玄多募勁勇，牢之與東海何謙、琅琊諸葛侃、樂安高衡、東平劉軌、西河田洛及晉陵孫無終等以驍勇應選。玄以牢之為參軍，領精銳為前鋒，百戰百勝，號為「北府兵」，敵人畏之。
按照這個說法，北府兵的創立者是謝玄，也是淝水之戰的東晉主帥。謝玄出身陳郡謝氏，是與琅琊王氏比肩的南渡大族，由他出任主帥，既有士族身份，又兼顧流民背景。所以，北府兵建立之後，很多流民帥前來投奔，譬如日後猛將劉牢之。
何謂北府呢?很多人都認為北府就是京口，就是今天的鎮江。如《資治通鑒》卷一百二晉海西公太和四年胡三省註：「晉都建康，以京口為北府，歷陽為西府，姑孰為南州」。又捲一百四晉孝武帝太元二年胡註：「晉人謂京口為北府。謝玄破俱難等，始兼領徐州。號北府兵者，史終言之」。太元二年(377年)王蘊為徐州刺史，鎮京口;謝玄為兗州刺史，鎮廣陵，徐兗二州遂分兩鎮。注意，這裡的徐州、兗州是東晉政府設置的僑郡，也就是為了安置北方流民，而在南方設置的北方地名的州縣。
太元四年，謝玄為兗州兼領徐州刺史。所以，是廣陵和京口曾稱北府，故謝玄在廣陵和京口招募徐兗二州勁勇而組織的新軍，歷史上稱為「北府兵」，廣陵和京口因此而成為北府兵兩大根據地。後來，王恭、劉牢之等北府將領常鎮京口，劉裕亦從京口起兵討滅桓玄，掌握了北府兵權，京口地位之顯要日益俱增，以致後人皆稱京口為北府。
北府兵之起，對內可穩定政局，對外則能抗擊強敵，正是有了這樣的部隊，依靠長江、淮河的地利優勢才能以少勝多擊敗前秦軍隊，而淝水之戰也使得北府兵的聲望達到了鼎盛。但是，淝水之戰以後，北府兵發生很大變動。先是在太元十二年( 387年)，謝玄被解除兵權， 以司馬恬、 王恭先後代之，北府兵集團軍閥化，成為大族鬥爭的工具。
北府兵集團幾經波折，直到原北府兵參軍劉裕崛起。 元興三年( 404年)，原北府軍 參軍 劉裕率餘部在京口起兵反抗已經僭越稱帝的桓玄，並將其處死。從此之後，北府兵就成為劉裕集團的武力支柱，也成為他操控東晉朝廷，最後奪取政權的工具。
說來也讓人唏噓，司馬懿老謀深算，費盡心思奪取魏國江山，沒想到後代流落江東，竟然被流民出身的軍人控制著。流民武裝為主的北府兵從東晉王朝的捍衛者，變成東晉門閥的軍閥武裝，再到後來成為摧毀東晉王朝的力量，其背後原因究竟是什麼呢?