在1939年4月12日，希特勒亲自下令将柏林卫戍团改名为“大德意志”步兵团.同年6月14日，在柏林的一次阅兵式上，“大德意志”步兵团正式宣告诞生,首任团长为冯.斯托克豪森上校(Oberstleutnant von Stockhausen)。 在1939年6月14日柏林阅兵式上的大德意志团部队制服上增加了绣有“GD”字样的肩章。前柏林卫戍团的士兵曾经因为没有肩章而遭到其它部队的嘲笑(步兵团的官兵们通常戴着绣有自己部队番号的肩章，而早期的柏林卫戍团却没有任何标志，所以他们常被别人讥笑是“你们肯定是一个瞎子团”)希特勒也有意将其作为德国陆军的样板部队。 1939年9月1日，德国进攻波兰，二次大战爆发。此时该团的兵认为他们这支背负国家荣誉称号的部队有责任参加首战。最高统帅部原本计划在9月6日将其空投到波兰作战，但是这个计划却因为苏军发兵波兰东部而取消。在随后的整个战役期间。大德意志步兵团仍然留在本土进行编制和训练。 9月15日，该团的士兵得到一条绣有哥特字母“大德意志”字样的绿色袖章，这对德国军队来说是一项至高无上的荣誉，因为在德国历史上只有精锐部队才有资格佩戴袖章。但是他们却觉得不满意，因为这条袖章的颜色和邮递员的一样(这一情况直到1940年才解决)。为了和党卫军区别，官兵们都把袖章戴在右臂。10月1日，最高统帅部下令该团抽调一个连负责柏林的警卫工作。25日，大德意志团的车辆上开始正式采用“铁盔”标志(Stahlhelm) 此后大德意志团又不断的接收新的补充： 在11月15日，一个机械化突击工兵营吸收到该团序列中。 1940年4月4日，又得到第640突击炮连(6辆3号突击炮)，成为其第16连。 此时的大德意志团的实力已经远远超过一个普通的步兵团，最高统帅部也意识到是该让其参加实战的时候了。而他们的初战就是黄色方案(Fallgelb)--对西欧的入侵。 至1940年5月，全团编制如下： 第1步兵营 第2步兵营 第3步兵营 第4步兵营 (每个营下辖一个轻步兵连，1个重步兵连和1个机械化反坦克连)，另外底4营里还有一个第640突击炮连) 大德意志步兵训练营(原第99机械化步兵训练营) 卡车连 第43机械化工兵营 机械化侦察连 第40后勤支队 1940年5月10日，隶属于古德里安第19装甲军的“大德意志”团在第10装甲师炮兵和工兵支援下，穿越卢森堡向比利时的要塞前进。同时大约400名该团第三营的士兵乘运输机从比特堡（Bitburg）和德肯多夫(Deckendorf)起飞伞降至比利时，12日，该团在萨莫依斯（Samois）首次和敌军轻微交火。次日既占领了横跨色当（Sedan）的马斯河（Maas）。随即暂属于第1装甲师，开始突破法国边境上的马奇诺防线（Maginot）。在接下来的5天里，“大德意志”团一直在法国境内的波尔松（Bolson）和斯通尼高地（Stonne）激战。 5月20日，该团向敦刻尔克（Dunkirk）以南的圣。奥玛（St.omar）挺进，当天德军已切断了法国西北部和比利时境内英法联军主力与法国中，南部地区的联系。21日，英法联军为了打破包围，截断德军先锋与后卫部队的联系，在康布雷-阿拉斯-亚眠三角地域对德军细长的封锁线突然发起了南北对进式进攻，全线德军在这一带的兵力十分薄弱，陷入了空前苦战。在阿拉斯（Arras），“大德意志”团遭到了英国远征军和法军的顽强阻击。但是在德国空军的强大支援下，地面部队与22日下午粉碎了英法联军的反攻企图。