揚州刺史嚴象被攻殺後，劉馥受任揚州刺史，單馬前往建造州治合肥，又安撫地方武裝與百姓，發展生產，興修水利，並修城壘以加強城池的守備，頗有功績，深受百姓愛戴。在三國之中劉馥無疑是個能臣的典範，更是一個難得的好官。
劉馥----曹操任命的揚州刺史。他上任的時候，廬江有孫策派遣的李述，而長江，淮河之間也有袁術殘部陳蘭等數萬人聚集。而劉馥可以依賴的老大曹操當時又被袁紹緊緊纏住，無力南顧(約200年左右)。曹操認為劉馥有能力，才任命劉馥為揚州刺史。
三國誌形容當時的揚州是「郡縣殘破」。在如此艱難的環境下，劉馥只有一個人單馬上任，而合肥也只是一座空城。劉馥在合肥建立各種制度，招攬地方豪族和袁術殘部。將這些人都安撫聚集到了合肥，而這些人也為合肥的建設提供了不少的物資。在短短幾年內合肥城得到了很大的發展，名聲大振。百姓千里迢迢越過長江，越過高山到合肥來的數以萬計。
得到了大量的勞動力後，劉馥指揮民眾建立學校，招攬人才，大量開闢荒地。修建堤防，加強灌溉，增加了稻田的產量。在劉馥的政策下，官民都有積蓄。
為了防備東吳劉馥指揮合肥軍民大力修建城壁，積累木石等建材，編作草蓆數千萬張，儲存魚油數千斗。積累了大量的戰略物資。
可以說，在短短的幾年裡，單人匹馬從零開始，將一座殘破的空城合肥建立成為擁有大量戰略物資，和大量勞動力的堅固城池。劉馥的付出是巨大的。他死於建安十三年(208年)，
劉馥到底是怎麼死的，正史沒有交待很明白，而在小說《三國演義》中卻說是被曹操醉後殺死的，其實在演義裡劉馥形象與正史相似。為揚州刺史，起自合淝，創立州治，聚逃散之民，立學校，廣屯田，興治教，久事曹操，多有功績。在曹操「宴長江橫槊賦詩」之際，直言曹操詩中有不吉之言，惹得酒醉後的曹操大怒，手起一槊，刺死劉馥。曹操酒醒後懊悔不已，命以三公厚禮葬之。
不過從劉馥的付出看來，我們有理由相信他的逝世有很大程度是由於他的勞累過度所致。
劉馥死後，孫權乘赤壁之餘威，率十萬大軍圍攻合肥百餘天。當時天陰連雨，城牆在雨水的侵蝕下快要崩壞。合肥軍就使用劉馥生前積累下的草蓆覆蓋保護城牆不被雨水侵蝕，夜晚就用魚油點燈照明，孫權軍無隙可乘，終於退去。揚州軍民在擊退孫權後，更是懷念劉馥。因為正是單馬上任的劉馥八年來的種種努力和付出，才把合肥由一座殘破的空城建立為足以抵擋十萬大軍的防守重鎮。
而合肥在往後的日子裡，更是成為了曹軍防守孫權的重要據點。威鎮逍遙津的張遼樂進李典，所依靠的，就是劉馥用生命中最後的八年白手建立的堅城合肥。