1952年11月，上海植物园的前身——龙华苗圃从上中乡、港口乡征地建立。

1972年，上海市园林管理处开始着手研究将龙华苗圃逐步改建为植物园。

1973年秋，上海市园林管理处设计组完成了植物园的规划方案。

1974年3月5日，上海市革命委员会批准了建设项目，对龙华苗圃的地形改造和绿化施工随即开始。

1978年初，公园初具规模，遂于4月1日局部开放。

1980年1月1日，上海植物园筹备组撤销，正式定名为上海植物园。

1981年后，上海市人民政府批准将共青苗圃、龙华公园、吴淞公园的部分土地改作它用，以植物园相邻的土地补偿。

1984年，植物园一期工程竣工，总投资额为1028·39万元，后又在新增的土地上实施第二期工程，至1987年竣工，总投资额为648·59万元。

2009年9月20日，上海植物园进行为期约三个月的闭园改建，改造园湖水系，修整道路桥梁，完善给排水系统，更新电气设备线路，维护建筑与基础设施。

2019年，上海植物园对园区弱电管线、视频监控系统进行升级改造。

2021年8月，上海植物园北区改扩建工程启动，规划增加10座专类花园、2座温室，用地面积22·24公顷，项目投资223215万元。

2022年11月1日，“长三角植物园科普联盟”揭牌活动暨市科协和市绿化市容局合作签约仪式在辰山植物园举行。

2023年9月28日11时，上海植物园北区拟对外试开放其中约14·3万平方米的区域。