那年，哥哥九歲，他七歲。母親病危，臨死之前告誡他和哥哥說：「你們父親的侍從，有害人之心，我死之後，他肯定會作亂的。你長大之後如果能除掉他，那麼我死而無憾了。」等他十三歲時，對他哥哥說：「母親臨終的話現在可以做了。」於是提刀入室殺掉父親的侍從，隨即到目前墳前祭拜。父親很生氣，他跪下說：「這是母親臨終遺言，我願接受不請示就擅自動手的懲罰。父親暗暗稱奇，並沒有責罰他。
他是劉曄，字子揚，淮南成德人，光武帝兒子阜陵王劉延的後裔。汝南許劭很瞭解他，說他有佐世之才。
膽略過人
揚州有很多狡詐之徒，像鄭寶、張多、許乾等都擁兵自重。其中鄭寶最驍勇，才力過人，地方很忌憚。當時鄭寶想驅逐百姓到江表，就想強行借劉曄的名氣來倡導這個建議。劉曄時年20來歲，心裡很擔心，但卻無計可施。
恰好曹操派使者到揚州，劉曄就見了使者，和他共論時事，打算和使者一起回去，並請使者多住幾日。鄭寶這時候用數百人帶著牛酒來迎接使者，劉曄讓家童把鄭寶隨從攔在門外，宴請鄭寶。劉曄暗令健兒借敬酒機會殺鄭寶，但鄭寶不喝酒，又緊緊盯著，果然健兒不敢下手。劉曄就親自用刀殺掉鄭寶，提著鄭寶的頭到外面說：「曹公有令，亂動者和鄭寶同罪。」眾人吃驚，都退回營地。營地還有人督率幾千精兵，劉曄擔心他們作亂，就騎著馬，帶著家童，到鄭寶營寨，喊出他們的首領，告訴他們禍福，這些人都磕頭投降。劉曄安撫慰問，眾人都心悅誠服，推劉曄為主。
出謀劃策
劉曄眼見漢室衰微，自己又是皇室，不想擁兵，就把部下都給了廬江太守劉勳。劉勳奇怪，劉曄說：「鄭寶沒有法令，部下都劫掠搶奪，我沒有什麼資質，現在整備他們，久了他們肯定心有怨言，所以給你。」
當時劉勳之兵，在江淮之間很強大，孫策擔心，就派遣使者用金錢結交，並謙卑地請求劉勳去攻打上繚城。劉勳本來就很相信孫策，又得了財寶，眾人都祝賀，唯獨劉曄不。劉勳問他，劉曄說：「上繚城堅，易守難攻，如果幾十天還沒攻下，到時候我們兵疲於外，國內空虛，到時候孫策趁機攻打我們，我們是守不住的。到時候會進不得，退無歸，所以現在出兵的話是惹禍上身啊。」劉勳不聽，果然被孫策偷襲，劉勳無奈投奔曹操。
曹操到壽春，廬江地界有山賊陳策，幾萬人憑險而守，之前派人攻打都未成功。曹操問部下能不能打，眾人都說：「山高谷深，易守難攻，而且打下來沒什麼好，不打也沒什麼壞處。」劉曄說：「陳策只是趁亂佔據一個堅城，憑借山險為賊而已，並沒有高人為他們指揮。以前都是偏將資歷淺，國內未平，才讓他們得逞，而現在大勢已定，可以先懸賞勸降再討伐，肯定能打下來。」曹操同意，於是猛將在前，大軍押後，果然如劉曄預料，一舉攻下。
曹操征張魯，到漢中，山高難登，糧食匱乏，便撤軍讓劉曄督後軍。劉曄認為張魯可以打敗，對曹操說：「不如全力攻打。」曹操就全軍進兵，多派弓弩射張魯大營，張魯逃走，曹操於是平定漢中。劉曄又說：「明公您以五千步卒打敗董卓、袁紹和劉表，現在又攻下漢中，蜀人驚恐，氣勢瓦解，劉備雖然人傑，但佔據蜀中還沒有多久，不能依仗蜀人，此時您再攻打，肯定會成功的。如果給他們緩解之日，諸葛亮明治理、關張勇冠三軍，蜀人安定，據險守要，就攻不下了，以後會成為大患的。」曹操不聽。
精準知人
蜀將孟達率眾降，曹丕很喜歡孟達，讓孟達做了新城太守，劉曄進言說：「孟達恃才有術，沒有感恩之心，新城又和吳、蜀交接，一旦有變，會給國家帶來患難的。」曹丕不聽，孟達後來果然叛變。
孫權襲殺關羽，奪得荊州，曹丕問群臣劉備是否會為關羽報仇起兵伐吳，眾人都認為不會。劉曄說：「蜀國雖弱小，但劉備肯定會帶領大軍顯示軍力威武有餘。而且劉備和關羽義為君臣，恩猶父子，不為關羽報仇，不能顯示他們的情分。」後來劉備果然出兵伐吳。吳國稱臣，群臣祝賀，劉曄卻說：「吳國憑借長江天險，根本沒有臣服之心，只是逼不得已而已。」劉曄還勸曹丕趁機伐吳，以絕後患曹丕不聽。後吳國夷陵大勝，果然沒有臣服之心。曹丕打算伐吳，劉曄又說吳國剛剛大勝，上下一心，又有天險，不宜出兵，曹丕還是不聽。
後曹丕伐吳，問群臣孫權會不會來，群臣都肯定，劉曄卻說不會，後孫權果然沒來。曹丕回去後對劉曄說：「果然都如你所料，但你應該為我想法滅了吳國蜀國，不能只是光知道他們情況。」
遼東公孫淵脅逼叔父公孫恭讓位，自立為遼東太守。劉曄認為公孫氏佔領遼東很久，恃海憑山，會像胡族一樣發動叛亂。建議趁公孫淵初登位，出其不意出兵討伐，並懸賞引誘他的反對者協助，也許不用開戰就能解決遼東割據問題。但最終都沒有被接納，公孫淵後來果然叛魏。
劉曄是曹操重要的謀士參謀之一，獻過很多奇計，深得曹丕依仗「授曄以心腹之任;每有疑事，輒以函問曄，至一夜數十至耳」;他十三歲殺人，膽烈過人，有勇有謀，比秦舞陽更猛;二十餘歲跟隨曹操，歷仕三代曹魏，最終遭受猜忌而，鬱鬱而終。