劉曄字子揚，淮南成德人，漢光武子阜陵王延後也。父普，母脩，產渙及曄。渙九歲，曄七歲，而母病困。臨終，戒渙、曄以「普之侍人，有諂害之性。身死之後，懼必亂家。汝長大能除之，則吾無恨矣。」曄年十三，謂兄渙曰：「亡母之言，可以行矣。」渙曰：「那可爾!」曄即入室殺侍者，逕出拜墓。舍內大驚，白普。普怒，遣人迫曄。曄還拜謝曰：「亡母顧命之言，敢受不請擅行之罰。」普心異之，遂不責也。汝南許劭名知人，避地楊州，稱曄有佐世之才。
揚士多輕俠狡桀，有鄭寶、張多、許乾之屬，各擁部曲。寶最驍果，才力過人，一方所憚。欲驅略百姓越赴江表，以曄高族名人，欲強逼曄使唱導此謀。曄時年二十餘，心內憂之，而未有緣。會太祖遣使詣州，有所案問。曄往見，為論事勢，要將與歸，駐止數日。寶果從數百人繼牛酒來候使，曄令家僮將其眾坐中門外，為設酒飯；與寶於內宴飲。密勒健兒，令因行觴而斫寶。寶性不甘酒，視候甚明，觴者不敢發。曄因自引取佩刀斫殺寶，斬其首以令其軍，云：「曹公有令，敢有動者，與寶同罪。」眾皆驚怖，走還營。營有督將精兵數干，懼其為亂，曄即乘寶馬，將家僮數人，詣寶營門，呼其渠帥，喻以禍福，皆叩頭開門納曄。曄撫慰安懷，鹹悉悅服，推曄為主。曄睹漢室漸微，己為支屬，不欲擁兵，遂委其部曲與廬江太守劉勳。勳怪其故，曄曰：「寶無法制，其眾素以鈔略為利，僕宿無資，而整齊之，必懷怨難久，故相與耳。」時勳兵強於江、淮之間。孫策惡之，遣使卑辭厚幣。以書說勳曰：「上繚宗民，數欺下國，忿之有年矣。擊之，路不便，願因大國伐之。上繚甚實，得之可以富國，請出兵為外援。」勳信之，又得策珠寶、葛越，喜悅。外內盡賀，而曄獨否。勳問其故，對曰：「上繚雖小，城堅池深，攻難守易，不可旬日而舉，則兵疲於外，而國內虛。策乘虛而襲我，則後不能獨守。是將軍進屈於敵，退無所歸。若軍必出，禍今至矣。」勳不從。興兵伐上繚，策果襲其後。勳窮踧，遂奔太祖。
太祖至壽春，時廬江界有山賊陳策，眾數萬人，臨險而守。先時遣偏將致誅，莫能擒克。太祖問群下，可伐與不？鹹云：「山峻高而溪谷深隘，守易攻難；又無之不足為損，得之不足為益。」曄曰：「策等小豎，因亂赴險，遂相依為強耳，非有爵命威信相伏也。往者偏將資輕，而中國未夷，故策敢據險以守。今天下略定，後伏先誅。夫畏死趨賞，愚知所同，故廣武君為韓信畫策。謂其威名足以先聲後實而服鄰國也。豈況明公之德，東征西怨，先開賞募，大兵臨之，令宣之日，軍門啟而虜自潰矣。」太祖笑曰：卿言近之!」遂遣猛將在前，大軍在後，至則克策，如曄所度。太祖還，辟曄為司空倉曹掾。
１傅子曰：太祖征曄及蔣濟、胡質等五人，皆揚州名士。每捨亭傳，未曾不講所以見重；內論國邑先賢、御賊固守、行軍進退之宜，外料敵之變化、彼我虛實、戰爭之術，夙夜不解。而曄獨臥車中，忠不一言。濟怪而問之，曄答曰：「對明主非精神不接，精神可學而得乎？」及見太祖，太祖果問揚州先賢，賊之形式。四人爭對，待次而言，再見如此，太祖每和悅，而曄終不一言。四人笑之。後一見太祖止無所復問，曄乃設遠言以動太祖，太祖適知便止。若是者三。其旨趣以為遠言宜征精神，獨見以盡其機，不宜猥坐說也。太祖已探見其心矣，坐罷，尋以四人為令，而授曄以心腹之任；每有疑事，輒以函問曄，至一夜十至耳。
太祖征張魯，轉曄為主簿。既至漢中，山峻難登，軍食頗乏。太祖曰：「此妖妄之國耳，何能為有無?吾軍少食，不如速還。」便自引歸，令曄督後諸軍，使以次出。曄策魯可克，加糧道不繼，雖出，軍猶不能皆全，馳白太祖：「不如致攻。」遂進兵，多出弩以射其營。魯奔走，漢中遂平。曄進曰：「明公以步卒五千，將誅董卓，北破袁紹，南征劉表，九州百郡，十並其八，威震天下，勢懾海外。今舉漢中，蜀人望風，破膽失守，推此而前，蜀可傳檄而定。劉備，人傑也，有度而遲，得蜀日淺，蜀人未恃也。今破漢中，蜀人震恐，其勢自傾。以公之神明，因其傾而壓之，無不克也。若小緩之，諸葛亮明於治而為相，關羽、張飛勇冠三軍而為將，蜀民既定，據險守要，則不可犯矣。今不取，必為後憂。」太祖不從，１大軍遂還。曄自漢中還，為行軍長史，兼領軍。延康元年，蜀將孟達率眾降。達有容止才觀，文帝甚器愛之，使達為新城太守，加散騎常侍。曄以為「達有苟得之心，而恃才好術，必不能感恩懷義。新城與吳、蜀接連，若有變態，為國生患。」文帝竟不易，後達終於叛敗。