宜春市图书馆始于宋代淳熙五年（公元1178年），州守张杓倡建“稽古阁”以藏书；元代至元五年（公元1339年），路总管张熙祖和严仲毅创建“尊经阁”，亦为藏书之所。两阁为宜春市图书馆之雏形。

宜春市图书馆正式成立于1928年。2008年搬迁至风景秀丽、环境幽雅的“宜春八景”之一的状元洲公园内，馆舍面积达5800余平方米。近年来宜春市委、市政府高度重视公共文化服务基础设施建设工作，将宜春市图书馆新馆建设项目纳入了我市“十二五”规划。在宜阳新区规划建设了“文化之窗”，有图书馆、博物馆、档案馆、城市规划展示馆、宜春日报社5个建设项目。其中宜春市图书馆新馆建筑面积11382·2平方米。于2009年9月30日奠基，2012年12月28日正式开放，总投资8000万元，建筑面积1·2万平方米，共有5层（地上4层、地下1层）。

2025年2月14日，宜春市图书馆旧雨新知轻奢民宿分馆共建协议签约及挂牌在旧雨新知轻奢民宿举行。