張翼是犍為郡武陽縣人，高祖父張皓曾任司空，曾祖父張綱任廣陵郡太守，都很有聲望政績。建安十九年(214年)，劉備平定益州，自領益州牧，以張翼為書佐。建安末年，張翼被舉為孝廉，出任江陽郡下江陽縣縣長。
建安二十三年(218年)，劉備出兵攻打漢中，張翼也跟隨參戰。曹操親自率兵前來救援，張翼跟從趙雲在漢水之戰中擊破曹軍。後轉任涪陵縣縣令，升任梓潼郡太守，並逐漸升任為廣漢郡太守，蜀郡太守。
建興九年(231年)，庲降都督李恢逝世，蜀漢朝廷任命張翼為庲降都督，兼綏南中郎將，駐牂牁郡平夷縣，出震南中。張翼執法嚴厲，不得南夷歡心，於是在建興十一年(233年)，夷族首領劉胄起兵作亂造反。張翼出兵討伐，還未攻破劉胄，蜀漢朝廷便徵召張翼回朝，眾部將都認為應該火速返回朝廷請罪，張翼說道：「不能這樣，我是因為蠻夷起兵騷亂，不稱職才被徵召回朝的。但是接替我的人還沒有到達，而我正身臨戰場，應當組織運送、屯積糧草，作為討滅叛賊的物資，怎麼可以因為被免除官職的緣故而荒廢國家的政事呢?」於是繼續統領事務，毫不鬆懈，直至接任的庲降都督馬忠到達前線後才出發回朝。馬忠依靠張翼打下的基礎得以擊殺劉胄，討平叛亂，蜀漢丞相諸葛亮得知這件事後非常讚許張翼。
建興十二年(234年)二月，諸葛亮兵出斜谷北伐曹魏，以張翼為前部都督，領扶風郡太守。八月，諸葛亮病逝，大軍撤回成都，拜張翼為前領軍，並追封之前討伐劉胄的功勞，賜予張翼關內侯的爵位。
延熙元年(238年)，張翼入朝為尚書，參與朝廷政務的決策。後陞遷為建威督，授予節符，並進封為都亭侯，拜征西大將軍，駐守蜀漢的北部邊境。
亢維之銳
延熙十八年(255年)春，張翼同衛將軍姜維一起回到成都，姜維在朝堂上提議再一次出兵伐魏，唯有張翼一人當庭爭辯，認為國家弱小百姓疲憊，不應該濫用武力，但姜維並沒有聽從張翼的意見。同年夏，姜維率領張翼等人出兵伐魏，並晉陞張翼為鎮南大將軍。八月二日，漢軍進至隴西郡狄道縣，大敗魏國雍州刺史王經的軍隊，王經退回狄道城，魏軍死在洮水的士兵上以萬計。姜維想要趁勝進軍，張翼勸諫道：「可以停止了，不應該繼續進軍，進軍的話可能會毀掉這份大功，就像為蛇畫足一樣。」姜維大怒，不聽勸諫，將王經包圍在狄道城內，後魏將陳泰和鄧艾前來救援，漢軍最終還是沒有攻克城池。九月二十五日，張翼隨姜維撤圍退軍。
自從張翼在朝堂之上提出不同意見後，姜維內心就與張翼不和，然而一直勉強張翼跟隨出征伐魏，張翼也不得已而一同前往。
景耀二年(259年)六月，張翼升任為左車騎將軍，領冀州刺史，官位與右車騎將軍廖化相等。當時的人說道：「前有王平、句扶，後有張翼、廖化。」
國難身死
景耀六年(263年)八月，司馬昭興兵進攻蜀漢。後主劉禪派遣廖化去往沓中支援姜維，張翼、董厥前往陽安關口作為各圍守的外援。九月，鍾會軍攻陷陽安關口，得以長驅直入，姜維亦為鄧艾所逼，於是與廖化、張翼、董厥軍會合，一同退守劍閣，抵禦鍾會的進攻。
同年十一月，蜀漢衛將軍諸葛瞻在綿竹被鄧艾擊敗，後主劉禪動向不明。張翼等人於是隨姜維向東進入巴西郡，繞道退至廣漢郡郪縣一帶，以察明虛實，不久後得到後主劉禪投降的敕令，於是與姜維等到涪縣向鍾會投降。
曹魏景元五年(264年)一月，張翼隨鍾會回到成都，後鍾會密謀造反，成都大亂。張翼在變亂中為亂兵所殺。