南宁市武鸣区图书馆前身是武鸣县图书馆。始创于民国24年(1935年)。20世纪40年代，因日军入侵县境，该馆关闭，图书失散。解放后，1951年，武鸣县文化馆在县城解放街成立，设图书室，1966年，因历史原因停止借阅，图书不知所终。1971年，成立武鸣县文化宣传站，恢复图书室。1975年文化宣传站改为文化馆，继管图书室。1978年1月，图书室与县文化馆分开，独立建制成立武鸣县图书馆，馆址位于县城建设街(县人民政府对面现址)，馆舍面积共74平方米。1984年8月，县文化馆原房子并归县图书馆使用。1985年，拆除旧馆重建新馆。1988年9月，武鸣县图书馆新馆大楼竣工使用，建筑总面积为1670平方米。此后，武鸣县图书馆得到持续的发展。2013年，参加第五次全国公共图书馆评估，评得二级图书馆。

2016年6月，武鸣撤县设区，武鸣县图书馆更名为南宁市武鸣区图书馆。