一般情况下，德国空军基本的战术单位是联队（Geschwader）。每个联队以数字和相应的前缀字母进行识别。

JG：战斗机联队；NJG：夜间战斗机联队； ZG：驱逐机（或重型战斗机）联队；SG：俯冲轰炸机联队；SKG：高速轰炸机联队；KG：轰炸机联队；G：运输机联队；LG：教导联队。

一些联队有荣誉称号，比如JG51“莫尔德斯”，即第51“莫尔德斯”战斗机联队（莫尔德斯为二战初期德国著名战斗机王牌）。

每个联队一般由3至4个大队（Gruppen）组成，以罗马字母识别，如I/JG 52，表示第52战斗机联队第1大队。

每个大队下辖3 个（偶尔有4 个）中队（Staffeln），用阿拉伯字母标识，如2/JG 54，表示第54战斗机联队第2中队。

一个例外是侦察机大队，他们以远程侦察和近距侦察来区别。例如4.(F)/122，表示第122远程侦察大队第4中队；1.(H)/32则是第32近距侦察大队第1中队。侦察机部队一般由德国空军司令部直接指挥。

每个战斗机中队下辖3 个四机编队（S c h w a r m），每个四机编队由2个双机编队（ROTTE）构成；而每个攻击机中队和俯冲轰炸机中队则由4个三机编队（Kette）组成。即标准的中队有12架飞机。

除了3个中队，每个大队的大队部辖一个四机编队。除了3至4个大队，每个联队的联队部还有一个直辖中队，因此一个联队的标准结构为：
联队部
第1大队：大队部、第1中队、第2中队、第3中队
第2大队：大队部、第4中队、第5中队、第6中队
第3大队：大队部、第7中队、第8中队、第9中队
第4大队：大队部、第10中队、第11中队、第12中队

联队的指挥官联队长的军衔从少校到上校不等；大队长一般是上尉或者少校；中队长可能是上尉，也可能是中尉甚至少尉。

数个联队会组成一个航空军（Fliegerkorps）， 用罗马数字来表示； 或是一个航空师（Fliegerdivision），用阿拉伯数字来表示。有的时候，也会为了特定目的编成一个航空指挥部（Fliegerfuhrer）。

而德国空军在二战中最大的编制单位是航空队（Luftfotte），常由2个航空军、航空师或航空指挥部组成。