晚清时期

上海铁路总公司

甲午战争后，清政府看到了铁路带来的积极面，对建铁路不再像20年前那样反对。

1896年，任命盛宣怀督办铁路总公司，当年11月盛宣怀将铁路总公司设于上海，并在天津、汉口设两个分局。

次年1月9号，铁路在上海正式开张。总公司拟建芦汉、苏沪、粤汉等铁路。首先筹银300万两，修建沪淞铁路。

1904年，清政府在北京设立铁路总局，裁撤上海铁路总公司。

沪宁铁路管理局

铁路发展初期，管理模式一般是一条铁路线设立一个铁路局。沪宁铁路初建时，根据清政府铁路总公司与英国中英银公司签订的《沪宁铁路借贷合同》规定，设立管理造路行车事务处，名为沪宁铁路总管理处，办公地点在上海。

民国时期

京沪沪杭甬铁路管理局

民国初年，商办铁路纷纷收归国有。沪杭甬铁路起初是分段命归的，分别叫沪嘉、甬嘉铁路，1914年，沪嘉沪甬更名为沪杭甬铁路，其他管理部门叫沪杭甬铁路管理局，总局设在上海，并与沪宁路合设两路总务处，由局长兼任处长。

1916年12月，沪杭甬铁路与沪宁铁路接轨工程完工，两路直接通车。京沪沪杭甬铁路管理局管辖南京——上海——杭州——宁波之铁路及其支线。根据当时的铁路编制专章规定，京沪沪杭甬铁路管理局管辖事务遇单属一路时，应单称京沪铁路局管理局或沪杭甬铁路管理局。

1937年8月，日军入侵上海，京沪沪杭甬铁路地区相继沦陷，日军占领后，成立“华中铁道株式会社”，直到1945年8月日本战败投降。

（注：以上京沪指南京和上海。）

京沪区铁路管理局

抗日战争胜利后，国民政府交通部下令成立华中铁路管理委员会。并于1945年10月收回日伪“华中铁道株式会社”所辖铁路。在接收告一段落后，路局按照交通部制定的铁路分区管理办法，以原有干线为基础，将毗连线路悉数合并，以便管理。1946年3月，交通部下令改称京沪区铁路管理局。

京沪区铁路管理局所辖线路有：京沪（沪宁）、沪杭甬两干线和淞沪、虬江码头、日晖港等支线，线路总长1103·15公里。

新中国成立后

1949年5月27日，中国人民解放军上海市军事管制委员会接管京沪区铁路管理局。

1949年6月1日，中国人民革命军事委员会铁道部命令，成立江南铁路管理局。

1949年8月1日，中国人民革命军事委员会铁道部上海铁路管理局成立。同时撤销江南铁路管理局。

1959年6月1日，上海铁路局改为上海铁路总局，下设蚌埠、南京、杭州铁路局和上海铁路办事处。各局受总局和局所在地的省、市双重领导。

1963年4月1日，上海铁路总局改称为上海铁路局，原蚌埠铁路局管辖的津浦线蚌埠站以南（包括蚌埠站）及淮南、大八、宁芜（慈湖至芜湖段）等线共601·4公里和原南昌铁路局管辖范围全部（浙赣线下镇站至姚家坝站及南浔、丰城、高坑等线）共827·3公里并入上海铁路局。同时，撤销南京、上海、杭州三个办事处，成立蚌埠、南京、上海、杭州、南昌五个铁路分局，受上海铁路局领导。

1965年6月1日，根据铁道部决定，将上海铁路局所辖的南昌铁路分局划交南昌铁路局管辖，两局分界在浙赣线k186·500处（金华站信号机外）。路局下设蚌埠、南京、上海、杭州4个铁路分局。

1972年1月1日，原南昌铁路局管辖的新塘边站——金华站铁路划交上海铁路局管辖，并入杭州铁路分局。

1984年10月1日，中共铁道部党组转发国务院办公厅通知，决定从1984年10月1日起，撤销南昌铁路局，并入上海铁路局，与广州铁路局在浙赣线的老关站与醴陵站之间k889+500处分界。调整后的上海铁路局下设蚌埠、南京、上海、杭州、鹰潭、南昌、福州7个分局。

1986年，鹰潭铁路分局撤销，并入南昌铁路分局。上海铁路局下属的铁路分局由7个改为6个。

1996年，京九线开通，铁道部将南昌铁路分局从上海铁路局的管辖中脱离。同年8月成立南昌铁路局。

2004年5月，上海铁路局福州铁路分局并入南昌铁路局。

2005年3月19日18时起，铁道部撤销上海铁路局所属的上海、蚌埠、南京、杭州铁路分局，实行路局直接管理站段的体制。

2008年3月25日起，铁道部调整济南和上海铁路局部分管辖区段，将陇海线东到连云港，西到虞城县，北到利国站——已并入济南铁路局的原徐州铁路分局各站段划归上海铁路局管辖，并相应调整两局京沪线的管界。具体为，京沪线济南局管辖的褚庄集站至利国站划交上海局管理，利国站为分界站，归上海局管理；陇海线济南局管辖的虞城县站至连云港东站划交上海局管理；符夹线济南局管辖区段的管理和地方铁路徐沛线的监管职能划交上海局，取消新河站分界口；新长线济南局与上海局的分界站，由新沂站调整为新沂西站，新沂西站归上海局管理。

2017年11月19日，中国铁路上海局集团有限公司挂牌成立。

2019年国庆黄金周期间，中国铁路上海局集团在常州站投入500余名铁路志愿者，加强售票厅、进站口、安检口、站区的导购导乘力量。

2024年7月，中国铁路上海局集团有限公司下属华铁旅服公司组织专业团队开展研发，在动车组高铁陆续上新23款营养健康的新品冷链盒饭。其中，特色商务套餐17种，30元儿童套餐6种。

2024年8月26日消息，中国铁路上海局集团有限公司宣布推出三款高铁旅游计次票产品，以满足旅客的差异化旅游出行需求，并促进长三角地区的旅游消费。