一提到三國時期的常山，我們最先想到的一定是趙雲，但是除趙雲外，常山還出過幾位小有名氣的人物，比方說重情重義的夏侯蘭，甄宓的母親張氏都是常山人。但是他們名氣還不夠大，要說出趙雲外的常山猛將，非黑山賊首領張燕莫屬。
184年，黃巾起義爆發，常山人張燕聚集了一幫人並成為了強盜，輾轉於山澤之間。遇到同樣起兵造反的張牛角後，兩人的部隊聯合起來形成了後來的黑山軍，張燕極力推舉張牛角為黑山軍首領。在後來的一次戰爭中，張牛角受傷身亡 ，張牛角死前對將士們說：「一定要讓張燕做主帥。」從此張燕就成為了黑山軍的首領。
幾年之後，董卓遷都長安，天下諸侯紛紛起兵討伐，無論是有名有號的正規軍，還是像張燕這樣的雜牌軍，都紛紛結盟，討伐董賊。公元192年，董卓被殺。各大諸侯和地方武裝的結盟正式解散，開始了新的鬥爭。193年，袁紹出兵圍剿黑山軍未果，叫來了呂布助陣，但是經過十幾天的戰鬥，並沒有分出勝負，於是紛紛撤兵。後來張燕與公孫瓚聯盟，可是沒過多久公孫瓚也被袁紹擊敗。
再後來，張燕找到了更加雄厚的靠山，他派使者找到曹操，表明自己願意加入曹操的部隊。曹操統一後，封其為平北將軍。