河南省公安廳第二工程公安局的前身是中國人民解放軍鐵道兵時期的保衛組織。主要職責是負責中國鐵建駐豫施工企業的安全保衛工作。 1984年兵改工後,在部隊保衛組織的基礎上組建了“鐵道部第十五工程局公安處”。2008年12月,河南省編委批准“鐵道部第十五工程局公安處”整建制移交河南省公安廳管理,成立“河南省公安廳第二工程公安局”。首任局長是由河南省公安廳選派的郭淵。