为适应地方行政区域的变化，加强人民武装工作的领导，保卫社会主义革命和社会主义建设的顺利进行，根据1956年4月5日中国人民解放军沈阳军区的命令和黑龙江省军区5月18日命令，同年6月25日至9月1日，在黑龙江省绥化县绥化镇组建了中国人民解放军绥化军分区(隶属黑龙江省军区)。

1959年1月5日，为适应行政区域的变化，根据沈阳军区(59)沈司务字第 1号命令，将原绥化军分区改称“中国人民解放军松花江军分区”，并迁驻哈尔滨市(道里十一道街33号)，机关设置没变。

1965年7月20日，根据沈阳军区通知和黑龙江省军区(65)龙司(务)字第238号通知，8月1日，将松花江军分区改称绥化军分区。

1966年11月，绥化军分区机关迁到绥化县镇内。机关设置未变。全区辖：绥化、海伦、安达、肇东、肇州、肇源、庆安、望奎、绥棱、青冈、明水、兰西、铁力、安达特区等14个县(区) 人民武装部。