中共在山西的統一戰線工作,在發展武裝力量方面的突出貢獻是建立山西新軍。全國抗戰開始後,閻錫山看到山西舊軍在日軍進攻面前戰鬥力很弱,急欲擴充實力。通過建立與閻錫山的統一戰線,中共山西公開工作委員會書記薄一波提議組建山西新軍,閻錫山同意先試建一個總隊(團),並定名為山西青年抗敵決死隊(簡稱決死隊)。決死隊於1937年8月1日正式成立,各級軍事幹部由閻錫山指派舊軍官擔任,政治委員和政治工作幹部則絕大部分是共產黨員。9月間,決死隊發展為4個總隊,後來發展為4個縱隊(旅)。除決死隊外,在山西還相繼組建了工人武裝自衛縱隊、政治保衛旅和暫編第一師等新軍武裝。到1939年底,山西新軍共有50個團(其中46個正規團),總兵力5萬餘人,在建制上屬於閻錫山軍隊系統。新軍中普遍建立起共產黨的組織,它是中國共產黨領導的以統一戰線形式出現的人民抗日武裝力量,也是一種特殊的統一戰線形式。山西新軍同八路軍互相支持、互相配合,在堅持和發展山西及整個華北的抗日游擊戰爭中,發揮了重要作用。