胡濟是荊州義陽郡人，曾任蜀漢丞相諸葛亮的主簿，與諸葛亮有著親密友好的關係。
胡濟為人不避嫌疑，敢於直言，多次向諸葛亮進諫，諸葛亮將他與崔州平、徐庶及董和相提並論，認為他們都是能適時規勸自己過失的諍友。胡濟後任行中參軍，昭武中郎將。
公元231年(建興九年)二月，蜀漢丞相諸葛亮第四次北伐曹魏。六月，因糧草不繼，漢軍退回蜀中。八月，北伐大軍退還後，負責糧草運輸的李嚴弄虛作假，想逃脫責任，胡濟與諸葛亮共同上書蜀漢後主劉禪請求罷黜李嚴。
公元234年(建興十二年)，諸葛亮逝世，胡濟被任命為中典軍，並受封成陽亭侯。胡濟與蜀漢重臣董允、費禕有一定交情，曾一起約時游宴。後升為中監軍、前將軍。後來蜀漢鎮北大將軍、漢中都督王平逝世後蜀漢朝廷以胡濟繼王平為漢中都督，授予節符，遙領兗州刺史。此後胡濟又升任為鎮西大將軍。
公元256年(延熙十九年)春，蜀漢大將軍姜維北伐曹魏，與時任鎮西大將軍的胡濟約好在上邽會合，但胡濟並沒有領軍赴約，使得姜維最終在段谷被魏將鄧艾大敗，折兵數萬人，姜維因此事自貶為後將軍，但是沒見任何關於胡濟的處分，相反，胡濟升任右驃騎將軍。後來魏滅蜀後胡濟的記載不詳，多半已經投降。