民国18-22年（1929-1933），赣榆县农民教育馆和青口民众教育馆，都设有图书室和阅览室，各有藏书2000余册、报刊10余种。

民国30年，赣榆县民众教育馆，设立图书室，并指导各区、村办俱乐部图书室、读报组等。

1951年11月，县文化馆设图书室，开展群众阅览和借阅活动。

1958年，图书室从县文化馆分出，成立赣榆县图书馆，藏书40000余册，工作人员2人。

1966—1976年，“文化大革命”期间并入文化馆。

1976年，从文化馆分离重新成立赣榆县图书馆。建筑面积为780平方米，1990年扩建后达到1800平方米，成立了儿童借阅室，成人外借室为苏北第一家社会科学类图书开架借阅室，1999年在全市率先实现图书借阅计算机管理。

2011年4月，图书馆新馆启用，建筑面积6000余平方米。

2014年，撤县设区，于7月9日更名为连云港市赣榆区图书馆。