1939年9月,八路軍一一五師到達魯南後,將活動在運河兩岸的孫伯龍、邵劍秋、胡大勛、孫斌全等幾支地方武裝組織起來,實行統一領導,於1940年1月1日在周營鎮(今山東省棗莊市薛城區周營鎮)正式成立“八路軍一一五師運河支隊”,由蘇魯邊之嶧、滕、銅、邳地方抗日武裝組編而成,下設兩個大隊,初創時約1500餘人,曾先後隸屬於八路軍—一五師,新四軍淮北三軍分區、八路軍魯南軍區。孫伯龍、邵劍秋、胡大勛先後任支隊長,朱道南、孫振華、紀華、鄭平先後任政治委員。
1940年春、夏為運河支隊大發展時期,同年秋其大部編入一一五師教導二旅五團,1941年又以200 人基礎發展至近千人。 1942年春鬥爭形勢惡化,遂遵一一五師政委羅榮桓指示,轉入隱蔽游擊戰。 1944年進入新的大發展時期,至1945車8月,隊伍達3000餘人,編為山東軍區警備第九旅第十八團,成為地方主力基幹兵團。
在抗日戰爭中,運河支隊在黨的領導下,與鐵道游擊隊、微湖大隊團結協作,戰鬥在運河兩岸、微山湖畔,共斃傷、俘日軍近千人、偽軍4000餘人,完成了護送劉少奇、陳毅等中央首長的任務,並掩護1000多人經過秘密交通線到達延安。先後為主力部隊輸送兵員3000多人,被羅榮桓政委譽為“敢在鬼子頭上跳舞”的部隊,陳毅贊稱:“運河支隊可以寫成一部大書。”