東漢統治末年許多沒有才能的大臣掌握了權力之後，只知道收斂錢財，不關心天下老百姓的生活。手袋壓迫的人們集結起來，反抗漢朝的統治。軍隊越來越多形成了當時的黃巾軍。可以說這場農民起義將東漢王朝的統治推向到滅亡的道路上，這支部隊的首領張角通過自己創建的宗教團體，不斷發展信眾，在做好了充分的準備之後，發動兵馬攻擊州府。
在剛剛開始的時候各個州府地方的軍隊都沒有來得及急做好迎戰的準備，所以說黃巾軍取得了很大的勝利，佔據了很大的一塊土地，很多的地方官都在戰鬥當中被殺掉了。可是後來大漢王朝還是集結起了很多的軍馬，對於這次農民起義進行了殘酷的鎮壓。由於多種原因，這場黃巾起義最終被統治階級平定。曹操當時也率領自己的軍隊參加了這場戰鬥，並且俘虜了一大批的農民起義軍，為了壯大自己的勢力，曹操就從俘虜的這些軍隊當中挑選一些年輕力壯的士兵充當自己的軍隊，經過嚴格的訓練之後，這支部隊被曹操命名為青州軍。
這支部隊和曹操本人之間有非常深的感情，也是曹操在許多戰鬥當中的進攻主力。憑借良好的訓練和軍隊整體的戰鬥素質，這支部隊曾經立下過非常多的功勞，也受到了曹操很多的獎賞，最後慢慢發展成為了由曹操直接負責率領的軍隊，除了他的命令之外，誰的命令也不聽。
後來這支部隊曾經跟隨曹操去攻打東吳，企圖能夠消滅孫權統一天下。戰鬥中作戰的工具主要是戰船，而不是青州軍所擅長的戰馬。可是這些士兵為了報答曹操最初對自己的恩情還是進行了非常積極的訓練，在這一過程當中，很多士兵因為暈船等等原因丟掉了性命，可是他們也沒有放棄。後來周瑜命令自己的部將用火攻的方式擊敗了曹操的水軍，給這次部隊造成了非常嚴重的損失，可是在最緊要的時刻也是他們保護曹操的安全，成功撤回了北方。經歷過無數次磨難之後，這支部隊真正的成為了一支王牌部隊。
可是不久之後曹操去世了，剛剛繼位的曹丕本來打算動用這支部隊進行作戰的，可是他卻發現自己根本無法命令這支部隊。甚至部隊當中的將領，在聽說曹操去世之後，想要發動叛亂。這時候許多忠於曹魏政權的大臣就開始建議皇帝派兵進行鎮壓。但是青州軍這支部隊總共有二三十萬人，戰鬥力很強，如果派兵鎮壓的話，對於曹魏政權內部軍力的消耗是非常大的。如果這個時候諸葛亮再次率兵進攻曹魏政權的話，皇帝將很有可能面臨著沒有兵馬可以調動去抵抗外敵的現象。可是也不能放任這支兵馬不管，如果真的產生叛亂的話，也會非常麻煩，畢竟人數實在是太多了。
為了結局這件事，曹丕派了一名自己非常信任的大臣去和青州兵談判。雖然這支部隊只聽從於曹操的命令，但是畢竟來說是曹操為曹魏政權的創建打下了基礎，他們們之間是有感情的，所以這群將領在最初的時候就提出了希望能夠回家的願望。
收到這個消息之後，大臣迅速把這一消息稟報給了曹丕。雖然皇帝的心裡非常的捨不得這支部隊解散，但是相比於發動叛亂的話，這也不失為一種更好的解決辦法。於是曹丕同意了青州軍的要求對部隊進行了解散，每個人發給了不少的路費和安家費，就這樣原本一場叛亂得到了解決，曹丕也終於穩定了自己剛剛獲得的政權。