1937年11月,中共山東省委派張北華等到泰(山)西指導和協調各地的起義準備,組織了一支民眾自衛武裝。1938年1月1日,這支武裝,在泰安城西南夏張鎮舉行起義。中旬,起義武裝與中共泰安組織及肥城進步人士葛陽齋組織的抗日武裝會合,組成“山東西區人民抗敵自衛團”,張北華任主席。自衛團攻克肥城,襲擊界首鎮日軍。2月,中共長清縣組織建立的武裝編入自衛團。3月,自衛團在泰安城南津浦鐵路(天津一浦口)線上的黑虎泉翻倒日軍彈藥車1列,斃傷日軍20餘人;在泰安城北萬德車站附近破壞日軍交通運輸。此時,部隊發展到2000餘人。