衛覬少年早成，以才學見稱。曾任曹操司空府的屬吏、茂陵縣令、尚書郎。公元199年(建安四年)，官渡之戰即將爆發，但此時荊州牧劉表答稱支持袁紹，而關中諸將亦保持中立，坐觀成敗。曹操因益州牧劉璋與劉表有嫌隙，命衛覬為治書侍御史，出使益州要劉璋出兵牽制劉表，以避免劉表出兵擾亂後方;但當衛覬經過長安時知道入益州的道路已被阻塞，唯有留在關中。
當時北方稍定，董卓亂政時逃離關中的人民都回到故鄉，關中諸將就引他們為部曲增強自己力量，衛覬就寫信給荀彧說：「關中縣是個豐腴富饒之地，前些時候因兵荒馬亂，百姓流亡到荊州的有十萬餘戶。聽說老家已經安定下來，這些人都盼望著早日返回家鄉。可是回來的人卻找不到活兒干，各路將領便競相招納他們做為自己的私兵。因為各郡縣的力量薄弱，無法與他們抗爭，所以各路將領的勢力就逐漸強大起來。一旦有什麼風吹草動，這些軍隊就成了後患。鹽，是國家的寶物，自戰亂以來未加管理，發放散亂。如今應該像從前那樣設專人監賣，再拿賺到的錢買些米，如果有歸來的百姓，就把米供給他們，鼓勵他們辛勤耕作，積累糧食，以使關中重新富裕起來。遠方的百姓聽說了這些事，也一定會日夜兼程，爭先恐後競相回趕。再派司隸校尉留治關中做為主將，那麼就可以逐漸削弱各路將領的勢力，使地方官府的力量日益強盛，老百姓的生活富裕起來，這可是強本弱敵的好事啊!」荀彧把衛覬的建議報告給曹操。曹操採納了他的意見，開始派謁者僕射監督鹽官，派司隸校尉管治弘農。
等到關中各地照此執行以後，曹操就把衛覬召了回來，提拔他為尚書。
公元213年(建安十八年)，曹操進爵魏公，建立魏國，衛覬任侍中，與王粲一同主掌制度。公元220年(建安二十四年)，曹丕繼任魏王，衛覬任尚書，後回東漢朝廷任侍郎，準備禪讓之事。曹丕同年稱帝，再任尚書，封陽吉亭侯。公元226年(黃初七年)，魏明帝曹叡繼位，進封閺鄉侯(《晉書》作閿鄉侯)。
衛覬向曹叡進言說：「九章刑律是從古時候遺留下來的。判斷刑罰的標準、概念很細緻，不容易把握。因此主管一方的官員，都應明曉法律。刑法，乃國家最重要最寶貴的一項制度，但卻得不到應有的重視;執掌刑法的官員，乃是掌握老百姓生死衰榮的重要人物，但他們被授予的官職往往很低下。國家政治的弊端，未必不是由此產生。故請您下令設置刑律博士，讓他們向有關的官員教授刑律方面的知識。」這件事不久就正式實施了。
當時老百姓的生活十分困苦，還要沒完沒了地服勞役。衛覬就上疏給明帝說：「要想讓一個人改變性情，是很難強迫辦到的。為臣的能給君主提意見已經很不容易了，做君主的要能接受意見就更難了。況且人們追求的是富貴顯榮，厭惡的是貧賤死亡，但是這四種境況，都是由君掌握控制的。君主喜歡誰誰就飛黃騰達，君主厭惡誰誰就會貧賤死亡;喜歡來自順從君主的旨意，厭惡來自違背君主的意志。因此做臣子的都爭著順君旨而避免逆君意，除了那些肯於破家為國、殺身成君的忠臣良將，誰敢頂撞君主，觸犯忌諱，提意見建議，闡一家之言呢?請陛下悉心觀察，那麼我說的這種情況您就不難看出。如今發議論的大都愛說悅耳的話，他們說起政治教化來，就把陛下比作堯舜;說起征戰殺敵，就把孫劉比作豸裡鼠。臣認為這樣無濟於國於君。想當初漢文帝時，諸侯強大，賈誼尚且恐懼得氣喘吁吁，認為到了危急關頭，何況現在天下三分，群臣盡力，各事其主。那些來歸降的，也不願意說是捨邪就正，都自稱是迫於急困。這種狀況，和當初六國分治，實在是沒有什麼區別啊!
當今千里之內少見人煙，百姓飢寒交迫，窮困潦倒，陛下要是再不留意，國家就會凋敝敗落，一蹶而不可復振。禮規定，天子所用的器具一定要有金玉的裝飾，飲食的菜餚一定要有八珍等佳味。遇到荒年和戰亂，就應減去佳餚和裝飾。但是奢儉的程度，一定要看社會是豐饒還是貧困。武皇帝在世的時候，後宮裡吃飯時只能有一種帶肉的菜，衣服不用錦繡，褥墊不加花邊，器物不塗丹漆，因此能夠平定天下，造福子孫。這些都是陛下親眼見過的啊。當前應該做的事，就是君臣上下，一起籌謀劃策，統計核查國庫裡的物資，量入為出。深刻考慮勾踐生聚百姓的辦法，猶恐不及，何況尚方(主造皇室所用刀劍及玩賞器物的官署)所造的金銀器物，數量和品種不斷增加，工人們不停地勞作，奢糜的風氣與日俱增，國庫裡的財富一天天枯竭。從前漢武帝相信並尋求神仙之道，說是服食天上降下的甘露就能長生不老，因此就樹立承露盤承接甘露。陛下通達聖明，每每嘲笑這事做得沒有道理。漢武帝有求於甘露，尚且被人指責不該樹立承露盤，陛下不求甘露卻空設承露盤，不能增添好處反而要花費很大的功夫，您實在應該好好考慮考慮以深謀遠慮。」
衛覬經歷過漢魏兩朝，時常向皇帝進獻忠言，如上書建議設立法律博士教授法律，讓各官員都清楚法律，按律執法;又曾因百姓徭役頻繁而要求曹叡少建宮室。
去世
衛覬曾受命主管國史資料及撰述工作。還寫成了《魏官儀》，總共撰寫了幾十篇文章。他還喜好古文，鳥篆、隸草，樣樣都很精通。建安末年的尚書右丞河南潘勖，文帝時的散騎常使河內王象，也和衛覬一同以文章顯揚一時。衛覬死後，謚號敬侯。其子衛瓘繼承了爵位。