1903年（清光绪二十九年），《苏报》登载《常州图书馆章程》。

1904年（光绪三十年），图书馆对外开放，馆名为“常州图书馆”。

1909年12月，五楹图书馆楼屋于双桂坊延陵季子祠基地落成，常州图书馆迁入，并更名为武进县商会图书馆。

1933年，武进县政府接管图书馆，改名为“武进县立图书馆”。

1933年至1953年，图书馆先后用过“武进县立图书馆”、“常州市立图书馆”、“江苏省常州图书馆”等名字。

1957年，图书馆正式定名为常州市图书馆。1971年，在崇法寺旧址新建图书大楼。

1965年，江苏省文化局拨款为常州市图书馆建馆舍。

1974年，馆舍建成。

1987年，常州市政府立项新建常州市图书馆。

1991年12月，位于罗汉路的新馆破土动工。

1995年12月26日，新馆竣工落成，并对外开放。

2020年6月28日，常州市图书馆新馆落成开放。