กำแพงทำอย่างแข็งแรงเป็นพิเศษสองชั้น มีคูน้ำกั้นอยู่ชั้นนอก มีเนินดินและกำแพงอยู่ชั้นในยาวถึง 3,500 เมตร ส่วนด้านกว้างกำแพงยาว 1,000 เมตร จดแม่น้ำ ด้านเหนือใกล้หมู่บ้านวัดแค ด้านใต้อยู่กลางทุ่งนาตรงกับวัดมรกต (ร้าง) ซึ่งอยู่ใกล้กับสถานีรถไฟสุพรรณบุรีในปัจจุบัน แต่ไม่พบตัวกำแพงด้านตะวันออก เพราะถูกรื้อเสียในสมัยสมเด็จพระมหาจักรพรรดิ สมเด็จพระพุทธเจ้าหลวง รัชกาลที่ 5 ได้พระราชทานพระราชดำริไว้ในพระราช-หัตถเลขา เรื่องเสด็จประพาสลำน้ำมะขามเฒ่าว่า "เมืองสุพรรณบุรีมีกำแพงเป็นสองฟากเหมือนเมืองพิษณุโลกยื่นขึ้นไปจากฝั่งแม่น้ำราว 25 เส้น ดูกว้างประมาณ 6 วา นอกเชิงเทิน" ส่วนประตูเมืองตั้งอยู่ที่ถนนมาลัยแมน บนแนวกำแพงเมืองเก่า ประตูเมืองที่เห็นในปัจจุบัน สร้างขึ้นใหม่ตามแบบของกรมศิลปากร ตรงสถานที่ซึ่งสันนิษฐานว่าเป็นที่ตั้งของประตูเมืองเดิม

จึงอาจกล่าวได้ว่าจากร่องรอยของกำแพงเมืองโบราณที่มีลักษณะคล้ายรั้วขนาดใหญ่ดังกล่าว ชาวบ้านในสมัยก่อนอาจไม่ทราบถึงที่มาและความสำคัญ จึงเรียกกันว่า "รั้วใหญ่" และเป็นที่มาของชื่อตำบลรั้วใหญ่ในปัจจุบัน

สถานที่ท่องเที่ยวสำคัญและแหล่งประวัติศาสตร์โบราณคดี ที่อยู่ในเขตตำบลรั้วใหญ่ อาทิ วัดแค คุ้มขุนแผน ต้นมะขามยักษ์ คูเมืองโบราณ เป็นต้น