김생사지는 신라의 명필인 김생(711∼791)이 만년에 창건한 사찰터이다. 김생은 성덕왕 10년(711)에 가난하고 가문에서 태어났지만 어려서부터 글씨에 능하였고 80세까지 붓잡기를 쉬지 않았다. 김생사지는 『수산집』의 김생사중수기와 『신증동국여지승람』의 기록을 통하여 현 위치의 김생사가 있었음 을 알 수 있다. 한편 수년전까지 있었던 기와집의 본체 용마루서 ‘건륭을미(乾隆乙未-1775)’ 망와 4점과 암기와가 발견되었다. 출토 유물로 보아 신라시대에 창건되어 고려시대에 크게 번창했던 것으로 추정된다. 절터의 서쪽 강가에는 김생이 쌓았다는 김생제방(金生堤防)이 있었으나 현재는 충주댐 건설로 물에 잠겨 자취를 찾기 힘들다.