조선시대에 현유(賢儒)의 위패를 봉안, 배향하고 지방민의 교육과 교화를 위하여 창건되었다. 고려 충숙왕 때 창건되었다는 설도 있으나 확실하지 않다. 1779년(정조 3) 현재의 위치로 이건하였으며, 1823년(순조 23) 명륜당을 중수하고, 1882년(고종 19) 부사 윤제홍(尹濟弘)이 중수하였다. 이후 1926년·1949년·1954년에 각각 중수하였다. 현존하는 건물로는 7칸의 대성전, 6칸의 명륜당, 각 4칸의 동재(東齋)와 서재(西齋), 내삼문(內三門) 등이 있다. 대성전에는 5성(五聖), 10철(十哲), 송조6현(宋朝六賢)의 위패가, 동무·서무에는 우리나라 18현(十八賢)의 위패가 봉안되어 있다. 조선시대에는 국가로부터 토지와 전적·노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고 봄·가을에 석전(釋奠)을 봉행하며 초하루·보름에 분향을 하고 있다. 이 향교는 충청북도 유형문화재로 지정되어 있으며, 향교의 운영은 전교(典校) 1명과 장의(掌議) 6, 7명이 담당하고 있다.