永州市零陵区图书馆原名（县级）永州市图书馆。位于永州市七里店街道黄古山社区黄古山中路。

1956年秋，在零陵县文化馆图书室的基础上，成立了“零陵县图书馆”，1980年4月零陵县图书馆移交永州镇，更名为“永州镇图书馆”。1982年1月国务院批准将零陵县永州镇改为“永州市”，同年7月，永州镇图书馆改名为“永州市图书馆”，1995年11月零陵地区经国务院批准改为（地级）永州市，原（县级）永州市更名为永州市芝山区，1996年3月永州市图书馆更名为“永州市芝山区图书馆”，2005年8月永州市芝山区更名为永州市零陵区，同年永州市芝山区图书馆更名为“永州市零陵区图书馆”。

1985年初，永州市图书馆（现永州市零陵区馆）落成，馆址设在永州市黄古山中路32号。