陆军当年就把一个装甲旅扩编为三个装甲师，每个师有５６１辆战车。古德里安是其中的师长之一。
古德里安的过人之处是他的战术远见。他设计的作战形式就是坦克集群的高速进攻。１９３６年至１９３７年，他写了一本名叫《注意——装甲兵》的书，书中阐明了他以后在战争中运用的坦克战术。１９３８年，希特勒任命古德里安为机动部队总监，统管装甲部队的一切组织和训练事项。这一年，德国又试制成功了两种新型坦克，这两种坦克在策二次世界大战中是德国装甲部队的基本装备。同年，希特勒吞并奥地利时，古德里安率两个装甲师打头阵。尽管路上有些战车因技术故障而抛锚，但还是在两天之内前进了数百公里，创造了部队机动速度的新记录。从而显示了装甲部队的优越性。
１９３９年，古德里安任第１９军军长。这个军包括一个装甲师和两个摩托化步兵师，在闪击波兰的战役中发挥了重要作用。他出色地执行了希特勒速战速决的战术原则，也使自己提倡的“闪击战”理论获得了惊人的成功。古德里安把他所在的“北方”集团军群中的两个装甲师和两个轻装甲师集中起来使用，横冲直撞，锐不可当，强渡了那累夫河。９月１４日，突破了布列斯特——里托夫斯克的筑垒地域，１７日与“南方”集团军群的前卫装甲部队在布格河畔的符沃达瓦会师。古德里安像隆美尔一样，从来不在后方指挥，他总是乘坐装甲指挥车与先头部队一同前进，靠无线电同他的指挥机关和各师师长保持联系。有时由于前进速度过快，甚至进入己方的炮击区而险遭厄运。
波兰投降后，古德里安又转战西线。他所在的１９军属伦德施泰特指挥的“A”集团军群。１９４０年５月，该军作为在色当地区的攻击主力，从法军防线上打开一个缺口，５月１３日就渡过马斯河。一天之后，古德里安坦克军在色当以西和以南扩大了桥头阵地，并击退了法军第三装甲师的多次反击。当时在他看来，只有两件事可以阻止装甲部队的前进，即汽油耗尽和到达英吉利海峡。但是，德国最高统帅部包括希特勒在内都对装甲部队高速进攻获得的巨大战果感到惊疑，为防止法军发动翼侧反击，急令各坦克部队停止前进。对前线情况了如指掌的古德里安及一些前线指挥官们认为，这无异于放弃奇袭，会丧失一切初步战果。于是他们据理力争，终于获准作进一步的“强力侦察”，“扩大桥头阵地”。古德里安对这项命令加以灵活解释，率领部队沿索姆河一线神速前进。５月１８日到达圣康坦，１９
日强渡索姆