紅25軍長征後，原紅28軍政委高敬亭收集散剩人員在大別山開展了艱苦卓絕的鬥爭，長期脫離了黨的領導。一九三七年七七事變後由鄭位三、肖望東、張體學、程啟文四同志赴大別山，和高敬亭接上了線，於一九三八年初將這支隊伍改編為新四軍四支隊。三月開赴皖中抗日前線。 同年九月四支隊會合了劉沖帶領的東北抗日挺進團和張愷帆、馮文華帶領的巢縣抗日游擊大隊。 十月開闢了淮南抗日根據地，動員高敬亭東進，組建了江北游擊縱隊。 一九三九年五月，成立新四軍江北指揮部，副軍長張雲逸兼指揮。 六月二十四日，高敬亭在肥東青龍廠被錯殺。 同年七月，四支隊分設四、五兩個支隊。 四支隊由徐海東任司令，戴季英任政委。下有七、九、十四、三個團，活動在定遠縣的藕塘地區。 五支隊由原四支隊八團、東北軍人組成的挺進團和第三游擊縱隊組成。羅炳輝任司令，郭述申任政委。下有八、十、十五、三個團，活動在半塔集一帶。（陳慶先為八團政委） 另有江北游擊總隊，由孫仲德任司令，黃岩任政委。下有三個大隊，活動在無為、肥東等地。 一九三九年八月，劉少奇化名胡服到江北指揮部，擴軍、建立根據地。 一九四o年一月，成立路東、路西兩地委。 一九四o年三月，創立淮南抗日根據地（新四軍二師） 一九四一年二月，改編為新四軍二師。 師長：張雲逸、政委：鄭位三、副師長：羅炳輝、參謀長：周駿嗚、政治部主任：郭述申、副主任：張勁夫。 下屬: 四旅由四支隊改編，轄十、十一、十二團； 五旅由五支隊改編，轄十三、十四、十五團； 六旅由江北游擊縱隊改編，轄十六、十七、十八團； 路西聯防司令部，轄獨立1-5團；司令鄭抱真、政委譚光廷，參謀長李國厚，年底陳慶先任副司令。 路東聯防司令部，轄獨立3、4團。 一九四三年二月實行軍地一元化，成立淮南區黨委、淮南行政公署、淮南軍區。 譚震林為區黨委書記、二師和軍區政委； 劉順元為區黨委副書記、 方毅為行署主任； 羅炳輝為二師師長兼軍區司令； 韓振紀任參謀長；詹化雨任副參謀長； 肖望東任政治部主任；余立金任副主任。 下屬路西、路東兩個地委、兩個公署、兩個軍分區分別由五旅和六旅兼任。 路東軍分區司令由五旅旅長成鈞兼任，地委書記和軍分區政委 由五旅政委趙啟民兼任，公署專員汪道涵。 路西地委書記、軍分區司令、政委由六旅旅長譚希林兼任，公署專員鄭抱真。 同年九月六旅建制撤銷，四旅兼路東，五旅兼路西。 一九四四年十二月，五旅準備渡江南進，重建六旅併兼路西軍分區。旅長兼司令陳慶先；政委黃岩；副司令兼參謀長饒守坤；政治部主任汪少川。 一九四五年八月形勢急劇轉折，為迫使日寇投降，接受日偽占領地，路東部隊組成淮南獨立旅。旅長羅占雲，政委李世炎，副旅長兼參謀長譚知耕，政治部主任王敬群。 為保衛勝利果實： 四旅向滁縣、全椒進擊； 五旅向蚌埠、進擊； 六旅向淮南鐵路沿線進擊； 獨立旅向長江北岸進擊。 進擊取得了重大勝利。在國民黨不斷進犯下，黨中央九月十九日決定“向北發展，向南防禦”。山東主力調赴東北，新四軍主力調赴山東。二師師部和四旅、五旅於十月由羅炳輝師長率領，北上魯南，與四師九旅合編為第二縱隊，司令員羅炳輝，副司令員韋國清，參謀長詹化雨。在津浦鐵路中段作戰。年底，羅炳輝病逝。 主力北上後淮南地區重新組建。一九四五年十二月，周駿鳴任軍區司令，肖望東任區黨委書記兼政委，梁從學任副司令兼參謀長，余立金任政治部主任，朱雲廉任副參謀長，胡弼亮任供給部長，阮漢清任衛生部長。下轄：六旅、獨立旅和華中第三（路東）、第四（路西）兩個軍分區。 一九四六年一月津浦前線野戰軍第二縱隊改稱山東野戰軍第二縱隊。司令員韋國清，政委趙啟民，參謀長詹化雨，政治部旅途鄧逸凡。 六月全面內戰爆發。七月，為反擊國民黨對路東地區的進攻五旅回師淮南組成新二師，師長周駿鳴，政委肖望東，副師長成鈞，副政委趙啟民，副師長兼參謀長梁從學，副參謀長朱雲謙，政治部主任余立金，下轄五旅、六旅、獨立旅、特務營和路東、路西兩個軍分區共3萬人。七月底奉華中軍區電示，除留少數部隊外，分別轉到蘇中、淮寶地區作戰。 八年抗戰，在淮南開創了擁有330萬人口，3萬平方公里的解放區，建立了17個縣的抗日民主政權，主力部隊從3100人發展到4個旅11個團共35000人。地方部隊15000人，民兵200000人。調給七師1個紅軍團，抽調了1個旅的各級幹部到東北地區工作。 在湧現大批英雄人物的同時也會出了很大的代價，共傷亡2萬餘人，其中先後犧牲和病故的縣團以上幹部就有高敬亭、文明地、徐庚、桂蓬洲、田豐、曾昭銘、劉樹藩、王紀正、方和平、鄭行郯、林英堅、程式、汪立斌、余海青、陳世新、王楓、吳師孟、浦風、汪心泰、王風岐、陳宗勝、李秉初、童漢章、陳之道、許言希、鄭維發、朱茂緒、徐康明、劉述敘、許午陽、何於慶、王福生、桂本奎、梁明倫、王勝凱、彭濟五、周傳學等同志，他們用血汗和生命譜寫了光輝的史章。
