1962年11月，以市直机关图书馆为基础创建市馆，建立的阳泉市图书馆。初建馆址在原市委大院北第三排平房，2008年5月迁入桃北中街1号。

阳泉图书馆新址设在区位优越、环境优美、交通便利的城市中心，建筑面积11000平方米。设有现代化功能的图书借阅室、报刊阅览室、少儿阅览室、自修室、电子阅览室、地方文献阅览室 等17个窗口，阅读坐位近千席。已经成为阳泉人的知识宝库、城市客厅、精神家园。2013年，被文化部评定为公共图书二级馆。

图书馆设计标准为50万册藏书。现有馆藏图书45万余册，报刊670多种。其中，馆藏古籍线装书籍16250册。无线网路 、 自助借还机 、电子阅报机相继投入使用，开展了卓有成效的数字图书馆服务。馆藏数字资源8·1tb，建有《大寨》等特色数字资源库。由本馆编辑出版的《阳泉工人画》、《阳泉老镜头》、《阳泉文物录》等“共享文丛”系列丛书20余种，基本形成了具有阳泉地方特色的馆藏文献资源。

阳泉市图书馆实行总分馆制，全年365天无假日免费开放 ，每周开馆64小时。 持续开展图书“三下乡”、“四进社区”的延伸服务。 三次获得文化部表彰的“全国文明图书馆”等荣誉称号。多次被中国图书馆学会授予“全民阅读活动先进单位。