元至正二十年，朱元璋軍下金華，定括蒼，仰慕劉基的名聲，盛情邀請出山。此時劉基已經50歲了，應邀前往金(南京)，進獻"十八策"，論天下安危，於色。朱元璋大喜，專設禮賢館款待。從此，劉基就成了朱元璋的主要謀士參謀，宏才大略得到了施展。劉基就在統一中國創建明王朝的過程中，立下了汗馬功勞。此外，對大明曆法、律令的制訂、南京城竽宮的修築設計也曾作出了貢獻。
被朱元璋聘至應天後，充任謀臣後，劉伯溫針對當時的形勢陳時務18策，提供了好幾著的關鍵性的軍事策略，如先滅陳友諒，與張士誠、方國珍暫時妥協，避免兩線作戰、各個擊破的建策。為朱元璋採納。朱元璋先後攻滅陳友諒、張士誠、方國珍等勢力那時多按劉基的計策行事。二十四年,朱元璋就自立為吳王,劉基為太史令。二十七年，升御史中丞兼太史令，又為朱元璋謀劃制定北伐滅元方略並得以實現。其間共參與軍機八年，籌劃全局，有定策之功。洪武三年封誠意伯。
劉基是大明王朝的開國元勳之一，但朱元璋大封功臣時，劉基卻不求名利，不以功臣自居，一再謙讓，故官爵比其他功臣低，授御史中丞兼太史令、弘文館學士、開國翊運守正文臣、資善大夫、上護軍，封誠意伯。年俸祿240石，也比其他受封伯爵的大臣低。但即便如此，由於他嫉惡如仇，剛正不阿，敢於直言，不久便得罪了丞相李善長、胡惟庸等人，並逐漸失雲朱元璋信任。洪武四年，劉基請求告老還鄉，退出政治舞台，時年61歲。
劉基還鄉後，雖然不與地方官來往，從來不講自己的功勞，唯棋酒詩文自娛，行為十分謹慎，但仍遭丞相胡惟庸暗算，指使人誣陷他在家鄉強佔有"王氣"的墳地，引起朱元璋疑忌，被奪去俸祿，致使劉基引咎京，不敢回家。後憂鬱成疾，吃了胡惟庸派來的太醫藥後，病情加重，朱元璋遣使護送回家。不久，便不明不白死去了。