太祖得郃甚喜，謂曰：「昔子胥不早寤，自使危，豈若微子去殷、韓信歸漢邪？」拜郃偏將軍，封都亭侯。授以眾，從攻鄴，拔之。又從擊袁譚於渤海，別將軍圍雍奴，大破之。從討柳城，與張遼俱為軍鋒，以功遷平狄將軍。別征東萊，討管承，又與張遼討陳蘭、梅等，破之。從破馬超、韓遂於渭南。圍安定，降楊秋。與夏侯淵討鄜賊梁興及武都氐。又破馬超，平宋建。太祖征張魯，先遣郃督諸軍討興和氐王竇茂。

太祖從散關漢中，又先遣郃督步卒五千於前通路。至平，魯降，太祖還，留郃與夏侯淵等守漢中，拒劉備。郃別督諸軍，降東、西二郡，徙其民於漢中。進軍宕渠，為備將張飛所拒，引還南鄭。拜寇將軍。劉備屯平，郃屯廣石。備以卒萬餘，分為十部，夜急攻郃。郃率親兵搏戰，備不能克。其後備於走馬谷燒都圍，淵救火，從他道與備相遇，戰，短兵接刃。淵遂沒，郃還平。當是時，新失元帥，恐為備所乘，三軍皆失。淵司馬郭淮乃令眾曰：「張將軍，國家名將，劉備所憚；今日事急，非張將軍不能安也。」遂推郃為軍主。郃出，勒兵安陳，諸將皆郃節度，眾心乃定。太祖在長安，遣使假郃節。太祖遂自至漢中，劉備保高山不敢戰。太祖乃引出漢中諸軍，郃還屯陳倉。

文帝即王位，以郃為左將軍，進爵都鄉侯。及踐阼，進封鄚侯。詔郃與曹真討安定盧水胡及東羌，召郃與真並朝許宮，遣南與夏侯尚擊江陵。郃別督諸軍渡江，取洲上屯塢。明帝即位，遣南屯荊州，與司馬宣王擊孫權別將劉阿等，追至祁口，戰，破之。諸葛亮出祁山。加郃位特進，遣督諸軍，拒亮將馬謖於街亭。謖依阻南山，不下據城。郃絕其汲道，擊，大破之。南安、天水、安定郡反應亮，郃皆破平之。詔曰：「賊亮以蜀之眾，當虓虎之師。將軍被堅執銳，所向克定，朕甚嘉之。益邑千戶，並前四千三百戶。」司馬宣王治水軍於荊州，順沔江伐吳，詔郃督關中諸軍往節度。至荊州，會冬水淺，大船不得行，乃還屯方城。諸葛亮復出，急攻陳倉，帝驛馬召郃到京都。帝自幸河南城，置酒送郃，遣南北軍士三萬及分遣武衛、虎賁使衛郃，因問郃曰：「遲將軍到，亮得無已得陳倉乎！」郃知亮縣軍無谷，不能久攻，對曰：「比臣未到，亮已走矣；屈指計亮糧不至十日。」郃晨夜進至南鄭，亮退。詔郃還京都，拜征西車騎將軍。

攏郃識變數，善營陳，料戰勢地形，無不如計，自諸葛亮皆憚之。郃雖武將而樂儒士，嘗薦同鄉卑湛經明行修，詔曰：「昔祭遵為將，奏置五經大夫，居軍中，與諸生雅歌投壺。今將軍外勒戎旅，存國朝。朕嘉將軍之意，今擢湛為博士。」

諸葛亮復出祁山，詔郃督諸將西至略，亮還保祁山，郃追至木門，與亮軍戰，飛矢中郃右膝，薨，謚曰壯侯。子雄嗣。郃前後征伐有功，明帝分郃戶，封郃四子列侯。賜小子爵關侯。

《魏略》曰：亮軍退，司馬宣王使郃追之，郃曰：「軍法，圍必開出路，歸軍勿追。」宣王不聽。郃不得已。遂進。蜀軍乘高布伏，弓弩髮，矢中郃髀。

[191年]，袁紹取冀州，韓馥戰敗，張郃率兵歸附袁紹，任校尉，用來對抗公孫瓚。後來，公孫瓚被擊敗，張郃功勞很大，升為寧國中郎將。

[200年]，曹袁兩軍相持於渡，袁紹派淳于瓊率萬餘人護送軍糧，屯於烏巢。曹留將守營，親自率兵襲烏巢。張郃認為曹兵，淳于瓊必敗，應迅速去救援，而袁紹的謀士郭圖卻建議進攻曹的大本營。袁紹採納了郭圖的建議，張郃勸阻，袁紹不聽，只派輕騎去救烏巢，而派重兵去進攻曹的大本營，結果不能夠攻下。很快，烏巢兵敗，消息傳來，袁軍軍心搖。郭圖聞訊后大為愧，為推卸責任，誣讒張郃不賣力作戰，失敗后還出言不遜。張郃心中害怕，與將軍高覽憤而投奔曹。曹聞張郃來降，十分高興，將此事比作微子去殷、韓信歸漢，於是拜張郃為偏將軍，封都亭侯，授予他部隊，隨軍作戰。

[204年]，張郃隨曹攻克鄴城，大敗袁尚。次年，又隨曹在南皮消滅袁譚勢力。

[207年]，曹遠征烏桓，張郃與張遼共為先鋒。戰後，張郃因功升為平狄將軍。後來，張郃又參加了征討管承，征討陳蘭、梅等人的作戰。

[211年]，馬超、韓遂叛，張郃隨曹出征，在渭南大破關中軍。繼而，張郃率軍圍攻安定，擊降楊秋。

[214年]，馬超在張魯支持下，捲土重來。張郃跟隨夏侯淵擊敗馬超，並平定了宋建的叛。

[215年]，曹親率大軍進攻漢中，從散關，派張郃率五千步兵在前開道，一直到平。張魯投降，曹回軍，留張郃與夏侯淵、徐晃等守漢中，以拒劉備。同年，張郃率兵南下進攻西郡，遷徙當地百姓到漢中。劉備派征虜將軍張飛為西郡太守，抗擊張郃。張郃軍進至巖渠，被張飛擊敗，率殘部退回南鄭，改任寇將軍。

[218年]，劉備進攻漢中，屯於平，夏侯淵、張郃、徐晃等率軍迎擊，張郃負責防守廣石。劉備親自率兵萬餘人，分為十部，夜間猛攻張郃。張郃親自率兵與蜀軍進行搏鬥，劉備不能攻克。次年，魏軍主帥夏侯淵在定軍山戰死，曹軍大敗，張郃同敗軍一起退守平關東。司馬郭淮和督軍杜襲收斂散卒，推舉張郃繼夏侯淵為魏軍主帥。張郃出任，指揮士兵，布置營寨，軍心安定。劉備渡漢水來攻，見魏軍在漢水以北列陣相迎，劉備於是放棄渡河，隔水相持。不久，曹遣使令張郃假節。後來，曹親自進攻漢中，不能取勝，於是撤出漢中的部隊，令張郃屯兵於陳倉。

220年]，曹丕即位，任命張郃為左將軍，進封都鄉侯。不久，曹丕稱帝，又進封張郃為鄚侯，隨即命令張郃跟隨曹真征討安定的胡羌，之後與曹真一同進朝朝見。

[223年]，張郃同夏侯尚一起進攻江陵。張郃別督諸軍渡江，攻取洲上屯塢。

[227年]，魏明帝曹叡即位，張郃奉命屯兵荊州，與司馬懿進攻孫權部將劉阿等人，追至祁口`戰，擊敗吳軍。

[228年]，蜀相諸葛亮第一次北伐，南安、天水、安定三郡響應。魏明帝曹叡加張郃位特進，使督諸軍，與蜀將馬謖戰於街亭。馬謖依守南山，下不據城，被張郃截斷水源，殺得大敗。繼而，張郃又平定了三郡的反叛。魏明帝曹叡下詔嘉獎張郃，增加食邑1000戶，前後一共4300戶。司馬懿在荊州訓練水軍，從沔江順流進長江伐吳，魏明帝曹叡命令張郃率關中諸軍去荊州接調度。張郃到達荊州后，正值冬天水淺，大船無法通行，於是又回軍屯駐方城。同年年底，諸葛亮第二次北伐，出散關圍陳倉。魏明帝曹叡急招張郃進京，把三萬士兵給他指揮，並派遣武衛、虎賁等侍衛保護張郃。魏明帝還親至河南城置相酒送，問張郃能不能來得及救援陳倉，張郃判斷諸葛亮軍沒有糧草，一定不能持久，便回答等援軍趕到時，諸葛亮已經退走。張郃率軍連夜趕到南鄭，諸葛亮果然退軍，於是奉詔還於京都，被拜為征西車騎將軍。

[231年]，諸葛亮第四次北伐，張郃隨司馬懿前往相拒。后諸葛亮糧盡退兵，張郃追至木門，與諸葛亮軍戰，被飛矢中右膝，死亡，被謚為壯侯，兒子張雄繼嗣。由於張郃前後征戰有功，魏明帝分張郃的食邑，封張郃的四個兒子為列侯，封他的子爵為關侯。

張郃通曉應變之，擅長布置營寨，預料戰勢、地形，一向準確，即使諸葛亮都對他有所顧忌。張郃雖為武將，卻喜歡儒士，曾推薦同鄉的卑湛，被皇帝下詔嘉獎，將張郃比作好儒學的東漢大將祭遵，並將卑湛提升為博士。

張郃的一生勝仗無數，屢克敵軍，而且深諳韜略，智勇兼備，不負魏將「五子良將」之名，無怪乎劉備和諸葛亮都對他深深懼憚。羅貫中在《三國演義》中出於「擁劉反曹」的思想傾向，抹殺了張郃的這些戰績和智謀，不僅對他的英勇善戰寫得很，而且隻字不提他是一位為劉備和諸葛亮所深深懼憚的大將，還把他描寫一個草包將軍，這對他非常不公平。