1939年8月，八路军总部在山西武乡，朱德和彭德怀正忙于解决山东根据地的指挥问题。表面上，八路军仅有115师、120师和129师三个师，但实际上，随着敌后战斗的不断拓展，八路军的部队数量大幅增加，光靠这三个师已经无法应对日益扩大的根据地。国民政府起初只授予八路军三个师的番号。1937年8月，红军主力转变为八路军时，这三个师共有逾四万兵员，虽然形式上得到了番号和粮饷保障，但许多地方武装、民兵和新组建的部队并不属于这三个师的正式编制。

随着抗战进入敌后阶段，情况迅速改变，八路军不得不独立于国民政府的补给，且不能将所有地方武装整合到三个师中。因此，中央和八路军总部根据战区需要陆续成立了五个纵队，负责统一指挥多支旅、团和地方抗日力量。这些纵队并非长期存在，有的负责整合地方部队，有的负责开辟新根据地，有的只是某一特定阶段的过渡性组织。它们的编制地位接近师一级，但不应简单视为五个额外的师。

第一纵队的成立与复杂的山东战局密切相关。1939年8月1日，八路军第一纵队成立，徐向前担任司令员，朱瑞任政治委员。随着115师部队进入山东，山东纵队迅速发展，但彼此之间缺乏统一的指挥。徐向前试图整合山东部队，建议由他担任师长，然而该方案未能落实，1940年他被调回延安，第一纵队也于1941年被撤销，转入新的指挥体系。 球友会官网

第二纵队与115师第344旅关联紧密。1940年2月，八路军总部决定组建第二纵队，由左权担任司令员，黄克诚任政治委员。黄克诚认为自己更适合承担政治工作，所以后来杨得志接任司令员，黄继续负责政治事务。随着根据地形势变化，第二纵队逐渐缩编为小团编制，并于1942年撤销。

第三纵队则是在冀中成立。自1937年抗战全面爆发后，孟庆山等干部进入冀中，吕正操也开始带领部队起义，人民自卫军迅速壮大。1938年5月，冀中各部合编为第三纵队，吕正操任司令员。该纵队活动在东冀中，依靠群众和灵活机动的战术与日伪军作战，1943年转战晋西北后撤销。

第四纵队经历了两次成立。第一次在1938年5月为开辟冀东抗战局面而成立，但随着日军的反扑，该部队遭受重创。1939年，新的冀热察挺进军成立，令原第四纵队号码撤销。晚些时候，黄克诚再次南下华中，1940年与豫皖苏边区合并，形成新的第四纵队，由彭雪峰担任司令员，黄克诚为政治委员，1941年后改为新四军第四师。 球友会官网

第五纵队的成立时间较短，但任务重要。1940年8月，皖东北的八路军及新四军整编为第五纵队，黄克诚兼任各项职务。随着华中抗日力量的重组，第五纵队于同年冬改为新四军第三师，黄克诚继续担任师长。至此，五个纵队有的完成了统一指挥任务，有的转战不同区域，有的则升级为新四军的师级部队。

在编制变化上，这些纵队存在的时间不长，但实际上它们连接了八路军的正规军、地方武装和抗日根据地政权。三大主力师为其提供了骨干，而五大纵队则在不同战区，组织分散的抗日力量，形成能够持续作战的整体。