1909年2月，甘肃官立法政学堂正式成立，学堂就及时开设了阅报室一间、图书室三间，拥有的文献数量还不到2000册件。

1913年，甘肃官立法政学堂改称甘肃公立法政专门学校，此时学校设有图书保存室、阅书室。

1928年，成立兰州中山大学，同年4月图书馆成立。

1929年，将贡院“衡鉴堂”作为馆舍。

1942年10月，甘肃学院将“观成堂”改建为新馆舍。

1945年，抗日战争胜利后，在辛树帜等人的积极筹备下，国民政府教育部批准将国立甘肃学院与国立西北医学院兰州分院合并成了国立兰州大学。

1946年8月，国立兰州大学成立。

1947年上半年，学校改“观成堂”为书库，将“至公堂”改为阅览室（又称大阅览室）。至此，原清末甘肃贡院衡鉴堂、观成堂、至公堂均有了做为图书馆馆舍的历史。

1948年，新馆舍“积石堂”落成，建筑面积1616平方米。历史学家顾颉刚先生撰《积石堂记》以志贺。

1949年，中华人民共和国成立后，兰州大学图书馆的发展进入了新的历史阶段。

1954年，兰州大学新校区开工，1956年一期工程完工。图书馆以新建的文科教学楼北端房间作为临时馆舍。

1962年底，图书馆楼建成启用，建筑面积7776平方米。

1991年9月，学校一分部（文科小区）建成并投入使用，中文、新闻、历史、哲学、法律、马克思主义科学共6个系搬入。

1998年5月，香港邵逸夫先生捐助部分款项，清华大学关肇邺院士设计，中华人民共和国教育部批准立项扩建城关校区图书馆，面积达2·2万平方米。

2001年4月，兰州大学榆中校区基本建成，8月底首届2700余名本科新生入住校区。图书馆以原兰州军区空军工程部办公楼（已拆除）改造为临时馆舍，馆内设立书刊借阅及音像、网络等主要服务项目。

2004年11月，随着原兰州医学院整体并入兰州大学，原兰州医学院图书馆被整合为医学专业图书馆（当时称医学校区馆或医学馆）。

2005年9月，建成3·8万平方米的榆中校区图书馆。至此图书馆总建筑面积达到6万平方米。

2008年5月，学校决定撤销了医学校区馆，但随后又将榆中校区馆中还在闲置的5、6层交图书馆使用，并决定将档案馆搬出本部中心馆。

2009年，在学校百年校庆前夕，图书馆对两馆容馆貌进行了一系列的修缮美化，配合学校对校内部分楼宇的重新命名需要，改本部中心馆大楼为历史称谓“积石堂”，命名榆中校区馆大楼为“昆仑堂”。

2012年1月9日，中国科学院国家科学图书馆兰州分馆与兰州大学图书馆在兰州大学举行了战略合作协议签订仪式。

2017年，学校为庆祝110周年华诞，要对校园环境进行大规模的整修和文化再造，图书馆也因此获得了修缮专项经费支持。

2019年11月22日，兰州大学图书馆与天水师范学院图书馆签订战略合作协议。