按照业务范围设置的部门有，驻局纪检监察组、政治部、警令部、警务保障部、机关党委、国内安全保卫支队、经济犯罪侦查支队、治安警察支队、刑事警察支队、监所管理支队、禁毒支队、法制支队、出入境管理局（出入境管理支队）、网络安全保卫支队、特警支队（巡警支队）、交通警察支队、防范和处理邪教犯罪工作支队（反邪教支队）、视频侦查支队、警务督察支队、合肥市人民警察培训学校（警察培训支队）、反恐怖支队、科技信息化支队（合肥市公安局大数据中心）、警务辅助人员管理支队、轨道交通分局、巢湖水上分局、特勤局等26个直属机构。

按照行政区划共设置了瑶海分局、蜀山分局、包河分局、庐阳分局、高新分局、经开分局、新站分局、巢湖经开分局、白湖分局共9个公安分局，以及肥东县公安局、肥西县公安局、长丰县公安局、巢湖市公安局、庐江县公安局共5个县（市）公安局。