陳泰是魏國名臣陳群的兒子，在青龍年間(233-237年)擔任散騎侍郎，在正始年間(240-249年)轉任游擊將軍，後來出任并州刺史，加振威將軍，持節，成為護匈奴中郎將，主管并州事務。陳泰很注意對當地少數民族採取懷柔政策，有很高的威信。當時，京城的權貴托他在邊地購買奴婢，並送來寶貨。陳泰將所送之禮皆掛在牆上，從不打開。後來，陳泰被調回京城任尚書，將權貴所送之禮全部退還。
249年，司馬懿趁曹爽等奉齊王曹芳去洛陽南郊謁陵之際，發動政變，率軍切斷歸路。司馬懿派人送書給曹爽要其交權，曹爽等仍猶豫不決。陳泰與侍中許允一道上前勸說曹爽，使其接受了交權條件。同年，陳泰調任雍州刺史，加奮武將軍。蜀將姜維進攻雍州，依傍曲山築兩城，派牙門將句安、李歆等人駐守，並聯合羌胡人進攻附近各郡。征西將軍郭淮與陳泰統兵抵禦，根據陳泰的建議成功擊退姜維，並俘虜句安、李歆等人。其後幾年，陳泰協助郭淮多次擊退姜維的進攻。
255年，郭淮去世，朝廷即任命陳泰為征西將軍，假節都督雍、涼二州的軍事。 同年，雍州刺史王經對陳泰報告，蜀將姜維、夏侯霸等率軍分三路向祁山、石營、金城攻來，要求分兵迎擊。陳泰認為蜀軍不會分數路而來，要其堅守狄道，待他率主力自陳倉到達後夾擊蜀軍。姜維到達枹罕後，果然向狄道進軍。王經不等陳泰軍至即擅自出擊。陳泰聞訊後，料到會有變故，即遣大軍前往支援。果然，王經先後敗於故關、洮西，大部分士兵傷亡或逃亡，僅殘萬人還保狄道。姜維乘勝圍狄道城。陳泰星夜馳報朝廷，同時收編王經的殘部，作好進攻準備。不久，長水校尉鄧艾出任安西將軍，與陳泰併力抗擊蜀軍，太尉司馬孚為後援。鄧艾等人認為蜀軍新勝，士氣正旺，魏軍應據險自保，而陳泰認為蜀軍孤軍深入，糧草不濟，正是進攻的好時機。於是分三路進至隴西，避開蜀軍，出其不意地繞過高城嶺，進至狄道東南山上，燃火擊鼓與城內聯絡，守軍見援軍至，士氣大振。姜維也感震驚，只好分兵攻陳泰。姜維督軍沿山進攻，陳泰據險而守，擊退蜀軍。陳泰揚言截斷蜀軍退路，蜀軍震恐，撤軍退走鍾堤，狄道之圍遂解。陳泰慰勞將士，加強城防工事，增添防守兵力後，率兵還屯上邽。
256年，陳泰調回朝廷，任尚書右僕射，負責選舉任命官員。不久，吳將孫峻率軍出淮、泗，擺出欲攻魏的姿態。司馬昭即調陳泰為鎮軍將軍、假節、都督淮北諸軍事，並詔命徐州監軍以下皆受陳泰節制。孫峻退兵後，朝廷又召回陳泰，改任左僕射。
257年，征東將軍諸葛誕連結東吳，起兵謀叛，拒守揚州。司馬昭親率六軍征討，駐軍丘頭，由陳泰總管行台。得勝回京後陳泰因功食邑增加到2600戶，子弟一人為亭侯，二人為關內侯。
260年，陳泰病逝，被追贈司空，謚穆侯，兒子陳恂繼嗣。(《魏氏春秋》言：陳泰因魏帝曹髦被殺，悲傷過度而死。) 以上資料取材於《三國誌》、《魏氏春秋》
在小說《三國演義》中，陳泰的生平與正史大體相當。曾在司馬懿政變之時勸曹爽投降，之後外出到雍州任職，為郭淮副將，多次防禦蜀將姜維的進攻。後來，陳泰繼郭淮為魏國西方主帥，與部下鄧艾結為忘年之交。魏帝曹髦被殺時，陳泰大為悲傷，大膽直言司馬昭要處斬賈充謝罪，沒有得到批准 。