1906年4月（光绪三十二年），郴州市一中的前身——郴州官立中学堂，由郴州牧金镜蓉牵头创办。校址设在东塔岭原宝塔下的东山书院（今湘南起义纪念碑所在地）。6月，学校迁入郴州考棚（今165部队驻地），考棚校址地处郴州城中心，东临北街（校门在东面），南依城墙。

1912年（民国元年），废除府州制，学校改为郴郡六城（郴、永、宜、资、汝、桂）联立中学。

1914（民国三年），学校改为湖南省第七联合中学。

1919年，谭延闿进驻郴城，称湘军总司令和湖南督军，占用考棚，学校迁回东山书院。

1921年，学校又迁入考棚。

1926年，国民革命军出师北伐，郴州地处西线战场，当年下期学校停课，翌年春开学复课。

1932年，学校改名郴郡联立初级中学。

1938年，为避日寇空袭，学校被迫迁到郴县栖风渡老岗脚李家村。

1942年，日寇侵犯日益猖獗，京汉线上不安宁，学校又迁到郴县桥口。

1945年，日军侵占郴州，学校被迫停办。

1946年重新复办，改名郴郡联立高级中学（全办高中），校址在白鹿洞。

1947年，学校迁到中山西街濂溪祠内办学（借用）。

1947年，学校迁回考棚，正名郴郡联立中学（完全中学）。

1949年12月1日，郴郡联立中学与郴县县中（创办于1943年秋）合并，定名郴县区立中学，校址暂在考棚。

1951年暑假，学校迁到桔井观（原郴县县中校址，现学校南端家属区所在地）。

1952年下期，学校使用新教学楼（现新修水泥球场所在地，原工字楼），学校被定为湘南地区重点中学。

1953年，学校更名为郴县第一中学。

1959年，郴州撤镇建市后，学校改称郴州市第一完全中学。

1960年，学校被定为省属重点中学。

1978年，学校又被定为省属重点中学。

1994年2月，省教委授予学校湖南省重点中学、湖南省实验中学两块匾牌。

1995年，郴州撤地建市后，学校收归市（地级管），被定位副处级单位。

2005年，学校开始筹建五岭阁新校区。

2008年，五岭阁校区卖出，不再所属市一中。

2019年，投资8·3亿的郴州市一中北校区建成并开始招生