山西殘留日本軍隊是指1945年8月15日，日本宣告無條件投降後，仍然殘留在中國成編制參加戰爭的部隊。日本宣告無條件投降後，絕大部分日本軍隊解除武裝，向中國軍隊投降後被遣返日本。
山西殘留日本軍隊是指1945年8月15日，日本宣告無條件投降後，仍然殘留在中國成編制參加戰爭的部隊。日本宣告無條件投降後，絕大部分日本軍隊解除武裝，向中國軍隊投降後被遣返日本。但日本華北方面軍第一軍的高層和閻錫山秘密協定，將第一軍的部分部隊以鐵道維修隊的名義留在山西，與閻錫山的山西軍隊一道參加對中共軍隊的作戰，“防止山西赤化”。1949年，隨著中共軍隊攻下山西，山西殘留日本軍隊也被擊潰。1949年中共攻下太原後，最後一支殘留日本部隊被擊敗，大部被俘。原第一軍司令官澄田睞四郎在閻錫山安排下潛回日本。大部分被俘日軍在1954年後被遣返日本。
1945年8月15日，日本天皇發布詔書無條件投降。9月9日，日本中國派遣軍總司令官岡村寧次向中國陸軍總司令何應欽遞交降書。按照《波茨坦公告》和國際法規定，日本須要永久削除軍國主義，軍隊完全解除武裝後驅出被侵略國的國土，遣返日本。日本華北方面軍第一軍司令澄田睞四郎、第一軍參謀長山岡道武、參謀岩田清一、山西省政府顧問輔佐官城野宏、第114師團師團長三浦三郎和山西產業株式會社社長河本大作秘密策劃將日軍一部分勢力留在中國，作為日後再次侵略的伏兵。事實上，岡村寧次在簽訂投降書以後也曾經向何應欽提出，可以讓華中長江與黃河的30萬日軍“暫不繳械”，幫助國軍圍剿共軍。這一提議被中國政府拒絕。但閻錫山認為自己派系的軍隊實力不夠，希望能藉助日軍作為攻打共軍的本錢。而駐山西的日軍也希望藉助山西省的資源達到戰敗後日本的復興。因此，閻錫山與澄田睞四郎等駐山西日軍高層達成協定，將一部分日軍在閻錫山的庇蔭下繼續作為成建制的軍隊留在山西。
1945年8月上旬至9月上旬，閻錫山在與澄田睞四郎等人密談時已經提到“日本武力暫存問題”。不久之後在密談中達成協定。10月，閻錫山和日本華北方面軍組成“合謀社”，具體策劃留駐日軍問題。日軍在名義上採用“個別發動”、“志願殘留”的方式，澄田睞四郎等人成立了“山西地區日本官兵善後聯絡部”，實際上仍然通過軍中電令方式將留下的軍人收編指揮。然後閻錫山以組建“特務團”、鐵路公路修復部隊的名義向聯絡部發出徵用令。
