張既出身寒門庶族，家中殷富，為人有容儀。十六歲就在馮翊郡擔任門下小吏，後來屢次陞遷，被郡裡舉為孝廉，但沒有前往京城入郎署為官。
建安元年(196年)，曹操任司空後，徵召張既，他也沒有到任。後來被州郡舉為茂才，陞遷為新豐縣令，在任期間他的政績為三輔各縣中名列第一。
河東之戰
建安七年(202年)，袁尚在黎陽同曹操對抗，派他所設置的河東郡太守郭援和并州刺史高幹以及匈奴的單于攻取平陽，並派遣使者到西部同關中的各路諸侯聯合，意圖襲擊曹操的後方。
此前，曹操曾表奏鍾繇為侍中領司隸校尉，持節督關中諸軍。鍾繇至長安後，作書為韓遂、馬騰等陳說利害得失，二人遂各遣子入朝侍奉，曹操暫無西顧之憂。當時，匈奴單于作亂平陽，鍾繇等進攻圍剿，不克，且郭援、高幹大軍已至河東，並再次勾結韓遂、馬騰等。鍾繇派張既去遊說馬騰等軍閥，張既給馬騰等人分析利害關係，馬騰等人被說服歸順了曹操。馬騰派兒子馬超帶領一萬多人馬，會同鍾繇的部隊攻擊高幹、郭援，把對方打得潰不成軍，郭援被斬首，高幹和匈奴的單于都被迫投降。
後來高幹再次反叛，并州失去控制。河內郡的張晟擁兵一萬多人獨來獨往，在崤山、澠水一帶為寇，河東郡的衛固、弘農郡的張琰都帶兵響應張晟。曹操任命張既為議郎，擔任鍾繇的參軍事，徵召馬騰等關中諸將合擊張晟等，大破叛軍。張琰和衛固被斬殺，高幹於逃往荊州的途中被捕殺，張既因功封武始亭侯。
從平涼州
建安十三年(208年)，曹操將南征荊州，因為馬騰等擁兵割據關中，於是派張既征命馬騰，要求他脫離部曲入朝為官，馬騰雖已經許諾，但始終憂鬱不決。張既恐其生變，乃令諸縣儲備糧食物資，以備不虞。復令二千石俸祿以上官吏出郊迎接，馬騰不得已，乃入朝。曹操表他為衛尉，家屬遷至鄴城，並表其子馬超為偏將軍，統率馬騰的部曲。
建安十六年(211年)，馬超反，張既從曹操破馬超於華陰，西定關右。乃以張既為京兆尹，招懷流民，興復縣邑，百姓懷之。
建安十七年(212年)，天子冊封曹操為魏公，魏國初建(此為漢末公國，非後之曹魏)。張既與毛玠、崔琰等擔任魏公國尚書，後出任雍州刺史。曹操對張既說：「你回到故土任刺史，可以說是衣錦還鄉了!」
建安十九年(214年)，張既從護軍將軍夏侯淵討伐於枹罕稱王為亂三十餘年的羌人宋建，另又攻取臨洮、狄道，平定隴右。當時，曹操欲遷徙民眾以充河北，隴西、天水、南安三郡民眾風聞後引發恐慌騷亂。張即使三郡內為將校官吏者免除民眾稅捐，讓他們整治屋宅，築水碓，顯示無遷徙隴右郡民之意，民心遂安。
功勳卓著
建安二十年(215年)，從曹操征張魯，別從散關入，氐王竇茂率部萬餘，恃險不服。張既討伐叛氐，收其麥以給軍食。張魯投降後，張既建議曹操拔漢中之民數萬戶以充實長安及三輔。
建安二十三年(218年)，劉備攻漢中，另遣將軍吳蘭、雷銅進攻武都，張既與都護將軍曹洪破吳蘭於下辯。
建安二十四年(219年)，劉備佔據漢中天險，曹操數攻不克，軍士多有逃亡，不得已放棄漢中，又恐劉備北取武都氐人而進逼關中，問計於張既。張既答道：「可勸氐人遷出，到糧食充裕的地方避敵。並且對先至者予以重賞。如此氐人必爭相趕往。」曹操依計行事，遣張既至武都，徙氐人五萬餘至扶風、天水兩郡定居。
此時，武威人顏俊、張掖人和鸞、酒泉人黃華、西平人麴演等各舉郡反叛，自號將軍，相互攻擊。顏俊遣使送母及子詣曹操為人質，以求援助。曹操問計於張既，他答道：「顏俊等內存禍心，今番若救之，待其勢力強大後必定復反。不如坐觀虎鬥，使其兩敗俱傷，我們再傚法卞莊子刺虎，坐收其斃。」曹操稱善。一年後，和鸞殺顏俊，武威王秘又殺和鸞。
延康元年(220年)，曹操薨，曹丕即位魏王。此前，朝廷沒有設置涼州牧一職，自三輔以至西域，皆屬雍州。(建安十八年，曹操以朝廷名義將天下十四州合併為古制九州，涼州被裁撤，所轄區域劃歸雍州)曹丕時重新開始置涼州刺史一職，以安定太守鄒岐為刺史。張掖人張進脅持郡守舉兵拒鄒岐，黃華、麴演亦驅趕本郡太守，舉兵響應。張既領兵至涼州為護羌校尉蘇則壯大聲勢，最終蘇則成功平定叛亂。張既進爵都鄉侯。
平定河西
黃初二年(221年)，涼州盧水胡伊健妓妾、治元多等反，河西大擾。稱帝即位不久的魏文帝曹丕十分憂慮，說：「非既莫能安涼州。」乃召回鄒岐，另以張既為涼州刺史。詔曰：「昔日賈復請求統兵去攻打郾縣的賊寇，光武帝笑著說：『執金吾去攻打郾縣，我還有什麼煩惱呢?』你智謀膽略都勝過別人，現在正是你施展本事的時機，我允許您因利乘便，相機行事，不用再先向我請示。」
又派護軍夏侯儒、將軍費曜等人領兵在他後面接應。張既率軍到達金城，要渡過黃河，部下將領、守備都認為兵少路險，不可深入敵方腹地。張既說：「道路雖然險峻，卻不像井陘那樣狹窄，夷狄都是烏合之眾，不會有李左車那樣的計謀，現在武威郡很危急，應該迅速趕到那兒。」就斷然下令渡河。
盧水胡騎七千餘在鸇陰口狙擊張既的部隊，張既揚言要由鸇陰口渡河，卻悄悄地經過且次縣到達武威。胡人都以為遇到了神仙，退卻到顯美縣。張既已然佔據了武威，費曜的接應部隊才趕到，而夏侯儒的部隊還沒到達。張既犒勞賞賜部下，打算進軍攻擊胡人。
將領們都說：「我方士卒疲倦，敵人卻保存著銳氣，很難同他們打仗。」張既說：「現在軍中沒有現成的糧草，應當就敵人處取得資用，如果敵人發現我方兵力聚集，就要退進深山，那時候再追擊他們，道路既險峻難走，士兵又飢餓疲累;如果退兵不追，又會遭受敵人的抄襲。這樣的話，部隊就總也得不到休息，正應了前人所說的『一旦放跑了敵人，危害會延續好幾代』。」於是便領兵挺進到顯美縣。遭遇盧水胡的幾千騎兵，要借助大風放火燒燬魏軍的營盤，張既部下的將士都很恐懼。張既夜間埋伏下三千精銳士卒，讓參軍成公英督率一千多騎兵挑戰，命令他們佯裝敗退，盧水胡果然爭先恐後地來追趕。於是伏兵四出，截斷了胡人的隊伍，分別攻擊他們的首尾，結果大獲全勝，斬首俘虜一萬多人。
曹丕非常高興，下詔說：「君渡黃河，歷險境，用疲勞的軍隊攻擊有準備的敵人，以少數勝多數，功勞蓋過了周宣王時的南仲，勤勞超過了尹吉甫。這個功績不僅僅是打敗了胡人，而是使河西一帶永遠寧靜，讓我再也不用顧慮西邊的國土了。」曹丕轉封張既為西鄉侯，給他增加了二百戶食邑，連同以前的食邑，一共四百戶。
不久後，酒泉蘇衡反，與羌豪鄰戴及丁令胡萬餘騎攻邊縣。張既與夏侯儒擊破之，蘇衡及鄰戴等皆降。遂上疏請與夏侯儒修建左城，築關隘，置烽火台、糧倉以備胡人。西羌驚恐，率眾二萬餘投降。
其後西平麴光等殺其郡守，諸將打算出兵攻打，張既道：「反叛的只有麴光等人，郡中的百姓不一定願意跟隨他們。如果因為這樣就興兵討伐，當地的官吏百姓、羌人、匈奴人就會說國家不辨是非，就會聯合起來對政府持敵對態度，這就等於是為虎添翼。麴光等人想讓羌人和匈奴人援助他們，現在我們先讓羌人和匈奴人包圍攻擊他們，用重金招募獎賞應徵的，把俘虜也都送給羌人和匈奴人。從外面扼止他們的勢力，從內部離間他們的盟友，就一定會不戰而平定這個地方。」
於是便發佈檄文通告各部落的羌人：凡是被麴光等人誘惑欺騙而加入叛軍的一律原諒，能夠殺死敵人將帥送來首級的加倍封賞。檄文發佈以後，麴光的部下殺死了他並送上了他的首級，其餘的人都像過去一樣安居無事。
薨逝任上
黃初四年(223年)，張既薨於任上，其治理雍、涼二州十餘年，以施政惠民而著稱，所禮辟的扶風人龐延、天水人楊阜、安定人胡遵、酒泉人龐淯、敦煌人張恭、周生烈等，最終皆成為有名位的卿士。
朝廷頒布詔書說：「春秋時候的荀林父在翟土立功，晉侯賞給他千戶之國作為他的封地;馮異為東漢貢獻出自己的力量，光武帝為此賜封他的兩個兒子。已故的涼州刺史張既能夠收容安撫民眾，使各部落的羌族人歸順朝廷，可以稱作國家的良臣。他不幸逝世，朕非常痛惜，現在賜給他小兒子張翁歸關內侯的爵位。」
魏明帝即位以後，追諡張既為肅侯，由他的兒子張緝承襲爵位。
主要成就
張既一生以惠政聞名於世。初任新豐縣令時，治績已為三輔地區第一。河東之戰時，張既受命勸說馬騰，使其相繼參與討伐高幹、張晟等人叛亂。關係平定後，他出任京兆尹，撫民興政，受百姓愛戴。後與夏侯淵平宋建，定臨洮、狄道，安郡民，遷徙氐人。張魯投降後，他建議曹操遷徙漢中的百姓以充實三輔。又助曹洪於下辯擊敗吳蘭。
黃初二年(221年)，張既臨危受命，出任雍州刺史，平定諸胡叛亂。任涼州刺史期間，他降蘇衡、鄰戴眾，修工事，安撫百姓，誅西平麴光。他所征辟的楊阜、胡遵等人，皆有名位。