- Theo thư tịch cổ, chùa Tam Huyền được xây dựng từ thời Lý, thế kỷ XI - XIII để cầu phúc cho dân làng đồng thời gắn liền với nhân vật lịch sử là Tăng quan Đô sát Từ Vinh, thân phụ của Thiền sư Từ Đạo Hạnh (Từ Lộ).

- Thiền sư Từ Đạo Hạnh là người đã đắc đạo, nổi tiếng đương thời, nên các triều đại phong kiến đều ban sắc phong làm phúc thần, do đó nhân dân địa phương đã tôn Từ Vinh làm Thánh phụ, thờ tại chùa Tam Huyền.

- Chùa Tam Huyền đã được tu sửa tôn tạo nhiều lần, tiêu biểu như các năm Quý Sửu, niên hiệu Hoằng Định 14 (1613); năm Canh Tý, niên hiệu Cảnh Hưng 41 (1780). Đầu thế kỷ XX, chùa bị đổ nát hư hại nặng nên đã được trùng tu lớn năm Đinh Mùi, niên hiệu Duy Tân thứ 2 (1907).

- Trải qua thời gian và chiến tranh, chùa Tam Huyền đã bị phá huỷ.

- Từ năm 1992, qua trùng tu lớn, chùa Tam Huyền đã được khôi phục phần nào quy mô ban đầu của di tích với đầy đủ hạng mục thiết yếu của một ngôi chùa thờ Phật. Hiện nay chùa còn bảo lưu được một số di vật có giá trị như một số bi ký, câu đối tạc bằng đá, ngưỡng cửa đá thời Lê. Trong chùa cũng có nhiều hoành phi, câu đối, cửa võng chạm trổ mang tính nghệ thuật cao.

- Chùa Tam Huyền đã được Bộ Văn hoá và Thông tin xếp hạng Di tích kiến trúc nghệ thuật năm 1996.