一九四一年初冬，古德里安指挥的坦克第2 集团军正由南面迂回莫斯科，他当时曾以他固有的直爽态度反对继续前进。他因此而失宠，被转入陆军总部的预备役。他只得袖手旁观，眼看着由于一些人不了解装甲坦克兵的能力而使他亲自监制的坦克提前遭到损伤。古德里安的离职所带来的是军队以及整个装甲坦克兵作战的失败。装甲坦克兵的全体官兵，甚至是新兵，都了解和尊敬古德里安。
当然，这时德军还在不断增加坦克的数量，不断提高坦克的战斗威力。坦克的月产量已经达到六百辆，而一九四○年的月产量只有一百二十五辆。这时已经开始生产计划于一九四○年生产的“虎”型坦克，并开始生产机动力很好的“豹”式中型坦克，但前线需要各型的装甲车辆。浴血奋战的步兵则更加需要威力大、机动性好的反坦克兵器。炮兵需要装备自行火炮。坦克师的摩托步兵团急需装备装甲输送车。满足所有这些需求是非常困难的，因为军事方面的经济能力是很不足的。越是在这个时候，越发感到没有久经战斗考验的古德里安将军是不行的。
一九四二年，前线取得了一些新的胜利。在残酷的冬季战斗结束以后，得到部分补充的坦克师和摩托化师重新发起进攻，同第6 集团军一起进至史达林格勒地域的伏尔加河一线。在北高加索，坦克第1 集团军距里海只有一百五十公里。在北非，隆美尔在第一次进攻失败以后，又发动闪电攻势，已抵达埃及国境，并夺占了托卜鲁克。但德军的兵力已感不足。到了年底已出现严重不利的局面。当俄军在史达林格勒转入进攻时，美军在法属北非登陆。隆美尔在阿拉曼一战失利以后，被迫继续向西撤退。德军丧失了战役机动的自由。装甲坦克兵这颗明星也即将殒落。
就在这十分艰苦的时刻，古德里安上将重新归队。他被任命为总监，大权在握。如果早些给他这些权限，我们的军队也不致有那样大的损失。古德里安作为装甲兵的最高首长，掌管包括党卫军坦克兵团在内的整个装甲兵的编制、战斗训练和装备改进。他有权在全军分配履带和轮式车辆。古德里安增加了经过战斗考验的t-4（装有长身管火炮）、“虎”式和“豹”式坦克的产量。这时，还开始了制造防空坦克、侦察坦克、架桥坦克以及装有电台的指挥坦克的科研工作。古德里安下令研究坦克师的新编制，既要压缩人员和装备的数量，又要保持战斗力。补给工作也开展得很好。后备部队也展开了接近实战条件的训练。编写出了精炼的新条令，删减了一些繁琐的规定，文字简练，便于理解、执行。装甲兵的许多训练班和学校统归“院校部”领导，这样工作起来可以步调一致。
一九四三年来临了，它是以史达林格勒这幕震撼人心的悲剧开始的。北非的战斗行动也不得不停顿下来。七月，英美军在西西里岛登陆，秋天在义大利登陆。于是，在欧洲开始了两线作战。工业发达的美国早已开始援助俄国，为他们提供坦克和其它技术装备。代号为“堡垒”的库尔斯克- 贝尔果罗德战役的失败，对我装甲兵是一次最沉重的打击，我们损失了许多技术装备。其次，在德国内部发生的一系列事件确实使德军统帅部步履维艰。步兵师没有得到必要数量的反坦克兵器的补充，只得用坦克来顶替。结果，尽管每个月能生产出二千辆各型装甲车辆，但并没有把它们用于执行主要任务——实施猛烈的进攻。坦克生产在逐渐缩减，因为英美空军的轰炸使许多坦克工厂停产，特别是影响了坦克备件的生产。与此同时，敌人技术装备的生产却大幅度上升。战争的好运已经彻底转到了德国的敌人一边。
一九四四年，对德国的合围圈已越来越小。在美英军于诺曼第登陆的同时，俄军强大的坦克兵团对德军“中央”集团军群发动了攻势。如果说西线敌军进攻的速度起初是缓慢的，那么东线攻势的发展却是十分神速的。经过激战以后，我们丢掉了东普鲁士，“库尔良”集团军群也被分割。德军已到山穷水尽的地步，军队只能得到部分装备的补充。有战斗力的后备兵力业已枯竭，只得派教练部队去堵塞战线的缺口。不过，前线的德军尽管已有些动摇，但仍在各个战线与优势之敌坚持作战。坦克师的使用只局限于完成所谓的“消防”任务：不断地把它们调到有敌人突破威胁的地段。在法国和义大利，由于敌人握有制空权，我们的军队只能在夜间调动。此时，在坦克发展方面已开始寻找新途径。为提高坦克夜间进攻的能力，计划给坦克安装能在夜间达到四百米观察距离的专用夜视仪。但是，这种夜视仪还是不很完善的，只是在匈牙利作了一些比较成功的试验。一九四四年十二月在阿登山区，最后一次在进攻战役中大规模使用坦克，期望能取得重大胜利，但以失败而告终，这是由于天气条件不好，而主要是缺乏油料。
一九四四年冬，德军在各个战线都在撤退，只是在个别地段取得了一些胜利。摩托化部队尤其感到空中支援的不足。
战争失败的原因是多方面的，这里不拟尽述。五月八日，德军投降，装甲兵也随之放下武器。装甲兵到战争最后几天仍在战线的许多地段顺利作战。
在战争年代，这支新建的兵种几乎扩大了十倍。到战争结束时，除统帅部预备队外，连党卫军的装甲部队在内共有三十一个坦克师和二十个摩托步兵师。装甲兵所取得的胜利已载入军事史册，并永远为我们的老坦克兵所追忆。