1924年2月，值第一次国共合作期间，同盟会元老、国民党山东省党部领导成员王乐平、范予遂、丁惟汾及陈名豫、高秉坊等，在青岛创办私立胶澳中学，于1924年2月开学，学校初期设初中一、二年级共两个班，第一任校长陈名豫，校址设于东镇登州路德国毛奇兵营（日占时称若鹤兵营，现市南区登州路7号）；

1924年10月，学校迁入湛山大路1号德国伊尔蒂斯兵营（现市南区香港西路5号-13号），校园面积约240余亩，西邻中山公园；

1927年10月，学校改为公立，易名为“公立胶澳中学”，王敬模为校长；

1929年3月，学校更名为青岛特别市市立中学校，同年9月，增设高中一年级普通科及师范科各一班，兼收男女生；

1930年9月，学校更名为“青岛市市立中学”，并附设小学一所；

1933年9月，学校师范科并入李村中学，附小并入太平路小学；

1938年9月，初中部迁至贵州路小学；

1944年，学校改名为“青岛市立第一中学”，与崇德(二中)、女中(女一中)、文德(女二中)、圣功(女三中)、礼贤成为当时青岛的六大中学。抗日战争时期，国民党在崂山的流亡政府也在当地开办了另一个“青岛市立中学”，规模较小，由王文坦任校长；

1945年，抗日战争胜利后，改回原名“青岛市立中学”；

1946年春，高中部迁至临清路（日人“铃木医院”，现临清路小学），同年11月，高中部迁入单县路原26号日人青岛商业学校旧址；

1949年，青岛解放后，改名为“山东省青岛第一中学”，学校搬迁至市南区单县路46号现址，学校名称沿用至今。

1952年，初中部由贵州路小学迁回至今（单县路46号）。

2020年，青岛一中教育集团成立。

2023年5月，青岛一中市南分校正式揭牌。

2023年5月9日，山东省青岛第一中学市南分校揭牌仪式举行。

2025年3月31日，青岛一中榉林校区正式官宣招生。