清乾隆元年（1736年），乾隆皇帝钦命修建永吉州文庙（吉林文庙的前身）。

清乾隆七年（1742年），永吉州知州魏士敏建庙宇黄宫，诸制略备。永吉州文庙建成后，兴办学校之风日盛，为满汉子弟读书求仕铺设了通道，儒家文化得到了迅速传播，推动了关东政治、经济、文化的发展。永吉州文庙建成之初，在正殿悬有康熙皇帝御书“万世师表”匾额，此匾额应系康熙十九年（1680年）以后，由康熙皇帝书成，存于宫内的。此外，在嘉庆年间，又由嘉庆皇帝赐御书“圣集大成”匾额一块，悬正殿。

清光绪三十二年（1906年），升祭孔为国之大祀。

清光绪三十三年（1907年），吉林改设行省，巡抚朱家宝和提学使吴鲁认为原有文庙简陋，不足崇礼，乃聘江苏训导管尚莹去关内考察文庙，决定在东莱门外（即今址）拓建新庙（即现吉林文庙）。

清宣统元年（1909年）新庙落成，其大成门、大成殿、崇圣殿及围墙均以黄琉璃瓦覆顶。

1965年，经吉林省拨款，在北京购黄琉璃瓦，并特聘北京古建专家，对吉林文庙大成殿进行维修，共耗资人民币20余万元。吉林文庙自建成到“文革”之前经历过六次较大规模的维修。

文化大革命期间，吉林文庙遭到了严重破坏。

1985年，国家、省、市先后拨款340余万元人民币对吉林文庙进行了修葺。

1990年9月28日，以吉林文庙为馆址成立了吉林市文庙博物馆，并正式对外开放。

1991年5月，在大成殿内重塑孔子、四配、十二哲人泥塑像十七尊。

1995年，在吉林文庙第一进院落修建了东北第一座碑林——吉林碑林。

2007年，拆除了三进院落70年代修建的与崇圣殿并列相距不足两米的两层办公楼，消除了重大火灾隐患。同年9月，接管了吉林文庙西墙外（原吉林文庙文昌宫旧址）文化管理办公室（旅游超市），整修后二楼一部分（400多平方米）作为吉林市文庙博物馆办公场所。

2009年6月，修建了吉林文庙文化广场，采纳吉林市文庙博物馆的“修旧如旧”建议，广场撒土0·6米，恢复了吉林文庙照壁原有的高度。同年7月，制作了国家级重点文物保护单位吉林文庙保护碑（石质），立于吉林文庙西辕门南侧。此外，为保护古建筑，撤出了中路两侧的树木，扩宽了院内的甬路一倍。