要說諸葛亮最畏懼的大將是誰?那絕對非張郃莫屬。還在東漢末年諸豪強攻打黃巾的時候，張郃就投在韓馥部下，開始了戎馬生涯。韓馥敗後，他以兵歸袁紹，袁紹敗潰，他投曹操，從此成為曹操手下的得力大將。他久經沙場，能征善戰，有勇有謀。還在袁紹手下時，他率部攻打公孫瓚，就為袁紹大破公孫瓚，使袁紹取得幽冀青並四州之地，成為勢力最大的豪強。官渡之戰，曹操親自將兵往烏巢劫糧。袁紹手下有人獻計，如趁虛攻打曹操大本營，必能自解烏巢之圍。張郃不贊成，認為曹操兵精，一定會攻破烏巢，烏巢一破，則大事去矣，而曹操大本營必定有防備，無法攻下，因此應該迅速派兵援救烏巢。
張郃
袁紹沒有採納張郃的意見，結果烏巢被破，紹軍潰敗。如果用張郃之計，後來形勢必定兩樣。由此可以看出張郃謀略過人。他後來在曹操手下，攻城略地，四處征戰多年。攻鄴城、擊袁譚、圍雍奴，都大破敵手。討柳城，他和張遼都是先鋒，立下戰功。征東萊、討管承，他又和張遼一起討陳蘭、梅成等，都所向披靡，攻無不克。他還隨曹操在渭南大破馬超、韓遂，接著圍安定、降楊秋，與夏侯淵討鄜賊梁興及武都氐，再破馬超，平宋建。曹操征張魯，先派張郃督領諸軍討平興和氐人王竇茂。曹操從散關人漢中，又先派張郃率兵在前面打通道路。待張魯投降，曹操便把張郃留下，和夏侯淵一起鎮守漢中要地。
他只是在與劉備軍交戰時有過較大的失利。一次是著名的「八瀠之戰」，當他進軍巴西八像山一線時，和張飛相持了五十多天以後，張飛用迂迴戰術，利用有利地形，切斷前後聯繫，使他孤立無撾，終於把他打敗。這次敗得很慘，他只帶了十幾個人從小道逃回南鄭。還有一次是太和五年(231)二月，諸葛亮再次出軍圍祁山。到六月，諸葛亮糧盡退軍，司馬懿讓張郃去追。張郃說：「按照兵法，圍城必開出路，歸軍勿追。」司馬懿不聽，張郃沒辦法只好前進。追到劍閣木門道，蜀軍布下埋伏，居高臨下，弓弩亂髮。張邰不幸中箭而死。不過，即使和劉備、諸葛亮交戰，張郃也表現出他出色的勇略將才。
建安二十三年(218)，劉備進兵漢中，屯陽平關。徐晃在馬鳴閣把劉備部將陳式等擊破以後，劉備又把進攻的矛頭指向張郃電守的廣石。這時劉備勢在必得，以精卒萬餘，分為十部，連夜急攻。張郃率領親兵頑強搏戰，競使劉備軍無法前進半步。次年，劉備自陽平南渡沔水，從定軍山發起進攻。這一次不但把前去迎戰的魏軍打敗，連魏軍統帥夏侯淵也在短兵相接的戰鬥中陣亡。這時魏軍新敗，又失去元帥，還面對劉備軍咄咄逼人的攻勢，曹魏三軍都驚惶失措。在這危急關頭，張郃被部下推為元帥，他沉著冷靜，勒兵安陣，才穩定了軍心，使魏軍免遭更大的損失。
張郃還指揮了著名的街亭之戰。《三國演義》寫了這次戰役，但作者把這次戰役魏軍方面的指揮者寫成是司馬懿。其實，司馬懿根本沒有參加街亭之役，當時他正屯兵宛城，負責荊、豫二州的軍事，連漢中前線也沒來過。直接指揮攻打街亭的是張郃。張郃抓住街亭蜀軍守將馬謖捨水上山，不下據城的弱點，先斷絕水源，使蜀軍不戰自亂，然後發起進攻，很快打敗馬謖，佔領了街亭這個咽喉要地。而後，張郃又一舉收復了已經歸附諸葛亮的南安、天水、安定三郡，扭轉了戰局。因為張郃不是曹氏集團的嫡系，曹氏很少放心地把方面軍權全部交給他，與劉備爭奪漢中時，統帥是夏侯淵，街亭之役時，主帥是曹真。
然而，從劉備到諸葛亮，懼憚的魏將，主要還是張郃。《魏略》在記敘夏侯淵被殺時這樣說：「淵雖為都督，劉備憚(張)郃而易淵。及殺淵，備曰：『當得其魁，用此何為邪!」《三國誌●張郃傳》則這樣說：「郃識變數，善處營陳，料戰勢地形，無不如計，自諸葛亮皆憚之。」瞭解這些也就可以知道，「八檬之戰」中張飛大戰張郃，為什麼能使張飛威名大震。但是，《三國演義》寫張郃敗給蜀軍寫得多，對他英勇善戰寫得少，更沒有一句提及從劉備到諸葛亮都懼憚他。這當然因為他是魏將的緣故。