光緒三十一（1905）年九（10）月，北京成立了巡警部，“各省巡警，並著該部督飭辦理”。巡警部成為全國最高警察行政機關。次年的官制改革中，巡警部改為巡警司，隸屬民政部。各省巡警總局或警察總局一律裁撤，改設巡警道，在機構編制方面漸趨全國統一。巡警道直接受各省督撫節制，亦間接受民政部的監督，負責各省警察行政事務，統轄全省警察機關，同時負責省城的警察事務。光緒三十三年正月二十七日（1907年3月11日），清朝政府飭令各省裁撤省城巡警總局，改設巡警道主持全省警務。
光緒三十四年正月（1908年3 月），山東巡撫吳廷斌遴選道員潘延祖補充巡警道。隨後，山東根據民政部擬定《各省巡警道官制並分課辦事細則》規定，省巡警道就所治地方設定警務公所，下設總務、行政、司法、衛生4科，科設科長、副科長各1人及辦事人員。
隨著山東全省巡警道署的設定，裁撤省城巡警總局，組建山東警務公所。下隸各州、縣巡警局改為巡警署，遴派警務長、分區區官、巡官、巡長和巡警，直屬當地行政長官統轄執行警務。省內的警務管理漸趨一致，警政建設步入正規化歷程。
