夏侯渊是曹操信任的亲信大将，曾经长期都督关中。而夏侯渊在定军山之战战死以后，张郃被众将推举，代理夏侯渊的职务，因此现在有些人认为张郃曾经都督过关中，不过这个看法并不准确。
曹操在建安二十年（公元215年）十一月夺取汉中以后，因为孙权在东线攻打合肥，于是留下夏侯渊、张郃等人镇守汉中，自己率军返回。
汉中是益州的门户，刘备自然不甘心坐视曹操堵在自己门口，于是在建安二十二年（公元217年）开始对汉中发起进攻。
初期蜀军屡战不利，不过汉中对于益州实在太重要，刘备不肯轻易罢休，于是在建安二十三年（218年）七月，亲自率军直扑阳平关，和夏侯渊对峙。建安二十四年（219年）春天，刘备在法正的建议下南渡沔水，在定军山下寨。夏侯渊带着张郃率军出关和蜀军相对下寨，结果被刘备击破，夏侯渊被黄忠斩杀，张郃收拾残军逃回阳平关。
夏侯渊是汉中曹军的最高统帅，经此大败加上主将身死，曹军人心惶惶。夏侯渊的司马郭淮和其他部将就公推张郃代理汉中统帅，张郃勒兵安陈，军心才安定下来。曹操也随后授权张郃假节，认可了这一结果。
遂推郃为军主。郃出，勒兵安陈，诸将皆受郃节度，众心乃定。太祖在长安，遣使假郃节。
但是要注意的是，这里张郃代理的仅仅是汉中军事统帅而已，此时曹操早在上一年九月就因为汉中战事，率军到了关中，只是暂时停留长安，没有去汉中而已，关中军事还是曹操自己亲自直辖。
不久曹操亲自率军前往汉中，去战刘备，并最终战败，曹操只能在五月率军退出汉中，回到长安，并命张郃驻守陈仓。而此后曹真等率军撤回，也留守陈仓。
太祖乃引出汉中诸军，郃还屯陈仓。
而刘备夺取汉中以后，自立为汉中王，并命关羽北伐襄樊。关羽率军北上，一举击败了驻守襄樊的曹仁。于是在七月，曹操命于禁、徐晃率军前去救援曹仁，自己则继续留在长安。
于禁、徐晃两军赶到襄樊以后，徐晃因为所属部队在汉中之战损失惨重，补充了大量新兵，因此留守宛城，只有于禁所部前往樊城，和曹仁汇合。
八月时，关羽趁着汉水暴涨之机，水淹七军，大破曹军，光俘虏就抓了三万，于禁也当了俘虏，曹仁带着几千残兵退守樊城。关羽一时威震华夏，许昌以南人心浮动，叛乱迭起。
曹操此前留在长安，可能是不甘心败给刘备，想找机会再打汉中，也可能是怕刘备进攻关中。但是于禁兵败以后，许昌危急，自然顾不上汉中，于是他一面增兵徐晃，让他挡住关羽，救援樊城，一面则安排大军返回事宜，准备必要时亲自带兵去战关羽，并在十月离开长安，前往洛阳（有趣的是，刘备也是十月才离开汉中回成都，不知道是谁先走一步，让对方放心走）。
当然，曹操也得提防刘备趁机攻打关中，于是命曹彰代理越骑将军，留守长安，这才离去。
太祖东还，以彰行越骑将军，留长安。
《三国志》上虽然没有提及此时关中最高统帅是谁，但是长安是曹操在关中的统治中心，曹彰又是他的儿子，从这个安排来说，应该是曹彰才是关中曹军的最高统帅，张郃不过是曹彰的部将而已。
而曹操回到洛阳以后不久，关羽已经被徐晃击败，倒是不用再次亲征了。然而曹操年纪也大了，这么反复奔波加上操劳，身体支撑不住，一病不起，于是召曹彰回洛阳交代后事。可是不等曹彰赶到洛阳，曹操就已经去世，曹丕继承了魏王之位。
曹丕继位以后，担心兄弟们和自己争权，于是将曹植、曹彰等人统统剥夺了实权，让他们回封国居住，并严加看管。这么一来，关中最高军事统帅的位置就空了出来，不过曹丕显然还是保持了曹操重用自己人的习惯，没有让张郃接管这个位子，而是任命曹真为镇西将军，假节，都督雍凉二州。
文帝即王位，以真为镇西将军，假节都督雍、凉州诸军事。录前后功，进封东乡侯。
所以张郃从头到尾都没有都督过关中军事。
hackchao
