1555년(명종 10) 동주 성제원이 삼년성 안에 충암(沖庵) 김정(金淨)을 향사하는 독향원(獨享院)을 세우고 ‘삼년성서원’이라 하였는데, 1610년(광해군 2)에 ‘상현’이란 이름의 사액을 받았다. 한국 최초의 서원인 소수서원 다음으로 세워졌으며, 충청북도에서는 첫 번째로 설립되고 사액 받은 서원으로 해마다 음력 2월과 8월 중정일에 제사지낸다. 1672년(현종 13) 삼년성 안에서 외속리면 서원리로 옮겨 세웠으며, 대곡(大谷) 성운(成運)을 을사명현으로 배향하고 보은현감을 지낸 동주 성제원과 중봉(重峯) 조헌(趙憲)을 1681년(숙종 7)에, 우암(尤庵) 송시열(宋時烈)을 1695년(숙종 21)에 추가 배향하였다. 1871년(고종 8) 흥선대원군의 서원철폐령에 의해 철거되고, 그때 서원의 강당은 보은향교(報恩鄕敎:충북유형문화재)로 옮겨 명륜당을 세웠다. 1892년(고종 29) 찰방 김세희(金世熙)가 제단을 만들어 제향을 올렸으며, 1896년(고종 33) 장례원집례인 김문희(金文熙)와 송근수(宋近洙)가 서원을 재건하고, 1919년에 중수하였다. 1986년에는 정부예산으로 사당과 정문을 새로 세우고 바깥담을 쌓았다.