วัดนี้มีเจดีย์เก่าแก่ที่น่าสนใจ พระเจดีย์ตั้งอยู่ด้านหน้าโบสถ์สร้างด้วยอิฐขนาดใหญ่ ชาวบ้านว่ามีมาตั้งแต่สมัย ร. ๓ – ร. ๔ แล้ว เป็นรูปทรงแบบนี้มาแต่ต้น
หรือไม่แน่ใจภายนอกกำแพงแก้วมีวิหารหลวงพ่อจวง ยอดพระเกจิฯ ผู้ก่อตั้งวัด ทางวัดและชาวบ้านได้ร่วมกันสร้าง จากประวัติวัดที่บันทึกไว้ค่อนข้างมีมากกว่าที่อื่น เรื่องลำดับเจ้าอาวาสโดยเริ่มต้นจากหลวงพ่อจวงเรียงลำดับมาตลอดไม่ขาด ช่วงวัดน้อยเปลี่ยนชื่อมาเป็นวัดแก้วน้อยเพื่อความสละสลวยในคำเรียก วัดแก้วน้อย
มีถนนเชื่อมถึงวัดหลวงได้ จึงทำให้มีทางเข้า – ออกได้ทั้งทางฝั่งวัดโบสถ์และวัดหลวง
         วัดแก้วน้อยเป็นวัดที่เกิดมาจากชาวบ้านในท้องถิ่นมิได้เกี่ยวข้องกับเจ้าขุนมูลนายใด ๆ แต่มีความเกี่ยวข้องกับการอพยพถิ่นฐานของชาวลาวหรืออีสานในเมืองพนัสนิคม จากนั้นก็ได้มีการพัฒนามาตามลำดับ จนถึงยุคเจ้าอาวาสองค์ปัจจุบัน

การบริหารและการปกครอง มีเจ้าอาวาสเท่าที่ทราบนาม คือ
         รูปที่ ๑ พระอิน                                                                  รูปที่ ๒ พระหล่อ
         รูปที่ ๓ พระทัด                                                                  รูปที่ ๔ พระเผือก
         รูปที่ ๕ พระชุน                                                                  รูปที่ ๖ พระอ่ำ
         รูปที่ ๗ พระพุฒ                                                               รูปที่ ๘ พระครูพิบูลถาวรกิจ
         รูปที่ ๙ พระครูอนุรัตนาภินันท์ พ.ศ. ๒๕๐๘ – ๒๕๕๘     รูปที่ ๑๐ พระปลัดมนู ฐานจาโร พ.ศ. ๒๕๕๘ – ถึงปัจจุบัน