วัดเทียนถวาย ได้สร้างขึ้นประมาณ พ.ศ. ๑๘๘๐ ก่อนสมัยกรุงศรีอยุธยา โดยมีพระเจ้าอู่ทอง ในฐานะเป็นเจ้าเมือง ขณะนั้นสั่งให้สร้างขึ้นในคราวที่ได้อพยพหนีโรคระบาด มาตั้งกองเกวียนพักอาศัยอยู่ประมาณ ๑ เดือนเศษ ก่อนที่จะอพยพกลับเมืองได้สร้างวัดขึ้นมาแล้วขนานนามว่า “วัดเกวียน ไสว” ชาวบ้านบางคนเรียกอีกนามหนึ่งว่า “วัดเหล้าจืด” หมายถึงคนเมาเหล้ามาถึงวัดนี้ก็หายเมา เหมือนกับเหล้าจืด เพราะความเกรงกลัวเจ้าอาวาส คือ พระธรรมมานุสารี (สว่าง ธมฺมโชโต) พระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ ๕ ได้เคยเสด็จโดยทางชลมารคพร้อมด้วยข้าราชบริพารเมื่อวันที่ ๒๘ กรกฎาคม ร.ศ. ๑๒๕ (พ.ศ.๒๔๔๙) ได้พระราชทานพระราชทรัพย์ ๒๐ บาท พร้อมกับโปรดให้ถ่าย