中南大学湘雅二医院脱胎于1906年美国雅礼协会在中国创办最早的西医院之一的雅礼医院，始建于1958年。1958年8月1日，医院举行开院典礼。1987年，改名为湖南医科大学附属第二医院，1992年被评定为国家三级甲等综合医院。2000年，改名为中南大学湘雅二医院。

2021年2月15日，中南大学湘雅二医院门急诊医技楼项目正式开工。2022年5月29日，中南大学湘雅二医院门急诊医技楼主体结构顺利封顶。2022年7月29日，国家卫生健康委发布关于设置国家精神疾病医学中心的通知，正式决定在湖南省以中南大学湘雅二医院为主体设置国家精神疾病医学中心。2022年12月17日，中南大学湘雅二医院桂林医院揭牌仪式在临桂院区举行。这是广西首个获批建设的国家区域医疗中心。2023年9月，成为中国儿童精神卫生精英教学医院联盟成员。

2024年4月，国家卫生健康委批复中南大学湘雅二医院国家紧急医学救援基地建设工程项目建议书（国卫规划函〔2024〕4号）。2024年7月13日，中南大学湘雅二医院惰性淋巴瘤中心正式揭幕成立。2024年10月，在中南大学湘雅二医院、湘雅二医院心血管外科的全力支持和共同努力下，中南大学湘雅二医院桂林医院心血管外科（湘雅二医院心血管外科六病区）于10月9日正式启用，并在11日-12日顺利实施了三台心脏外科手术。

2025年2月8日湖南日报报道，中南大学湘雅二医院创伤骨科专科宋德业教授团队成功为一名57岁的患者实施了导板辅助下3d打印全距骨踝关节置换术，系湖南针对距骨骨折术后塌陷坏死实施全距骨踝关节置换的首例病例。2025年4月13日，湖南省首个航空医疗救护联合体——中南大学湘雅二医院航空医疗救护联合体正式成立。