1940年8月，制定了“山东省战时工作推行委员会组织大纲”，选举成立了全省统一的行政权力机关——山东省战时工作推行委员会。省战工会设置政治、军事、财政经济、教育、民众动员五个组，黎玉为首席组长，当时未建公安机构。

1941年3月，中共山东分局根据中央书记处“关于党内政权工作部的性质与任务”的指示，决定在已建立民主政权的地区，县以上党委取消社会部，加强政府公安局的工作。山东分局和区党委两级社会部仍保留，对外称公安处（局），对内称社会部。

1941年3月24日，山东省战工会建立山东省公安处，负责组织指导山东各抗日根据地的公安保卫工作。

1941年10月1日，山东省战工会颁布了“山东省公安局暂行条例”，规定省级设公安总局，同时颁布了“山东省公安总局组织细则”。在省公安总局未组成前，暂由省战工会公安处代行其职权。省战工会公安处下设侦察、审讯、执行、教育、总务五个科，并设政治保卫连和侦察队。

1942年9月，山东分局为便于一元化领导，决定将省战工会的“公安机关与军区政治部保卫部门合并，并自地委、军分区以上均照此办法”，“县以下地方武装之锄奸工作，归到公安局”。中共山东分局社会部、战工会公安处和山东军区保卫部合并一起，一个机构三个名称，对外统一称山东省公安处。为适应军事斗争，公安机关的日常工作归军区政治都领导。这一时期省公安处驻莒南县十字路、大店一带。

1943年9月10日，山东省临时参议会第一届第二次议员大会决议，将“山东省战时工作推行委员会”改称为“山东省战时行政委员会”。行委会由黎玉任主任委员，战工会的公安处改称为行委会公安处，刘居英任行委会秘书长兼公安处长，苏孝顺任副处长，机构设置及科级工作人员变动不大。行委会公安处仍是党、政、军保卫组织合一的机构，直至抗日战争胜利。行委会公安处随省军区一起活动，流动性很大，先后驻过临沭县的三界首，日照县的涛雒，莒南县的十字路、大店、坪上和洙边等地。

1946年2月27日，山东省公安总局在临沂城（驻天主教堂内）正式成立，设秘书、人事教育、侦察、预审、治安、机关保卫、行政七个科，侦察、警卫两个队，一个警官学校。

1948年1月，山东省公安总局在渤海区参加并领导山东公安机关工作人员集训，即“华东建设大学第二分校”。校委会下辖四个大队、一个教导团。

1948年8月，李士英带领一部分干部做接收济南的准备工作。

1948年9月初，山东公安总局科长王健、丛桂滋带领公安总局工作人员，迁往临朐县，10月迁往益都，与华东局社会部联合办公。

1949年3月30日，山东省人民政府行政委员会及山东省临时参议会驻会委员会召开联席会议。会议决定改山东省公安总局为山东省人民政府公安厅。

1949年4月9日，山东省人民政府公安厅迁驻济南市经二路l85号（即现驻址）。