河源市图书馆前身为成立于1975年河源县图书馆，1988年河源撤县建市，1993年升格为河源市图书馆。

2013年3月，河源市图书馆新馆建设被列为河源市当年十件民生实事；同年4月，市发改局批复新馆建设立项；同年6月，图书馆开始新建馆舍。

2016年8月，旧馆拆迁。

2016年12月28日，河源市图书馆正式迁入新馆址对外开放。

2021年1月，实现市、县（区）公共图书馆“通借通还”。