Do thiên tai biến đổi, ngọn nước từ ngã ba Tuần Vường chảy xói vào đất Vị Hoàng, làm cho đất bên hữu ngạn bị sụt lở, bên tả ngạn được bồi tụ. Vì vậy: Dân hữu ngạn mất đất, phải sang khai phá, sinh cơ lập nghiệp tại doi đất bãi bồi phía tả ngạn sông Hồng. Người đầu tiên tổ chức việc di cư và khai phá, lập ra làng Thuận Vy là cụ quan Trương. Tên thật của cụ quan Trương là Nguyễn Đình Lan. Cụ giả làm người chăn vịt, thả diều, để thăm dò, khảo sát, dùng dây diều và cán cờ lùa vịt để làm thước đo bãi bồi, ghi chép cẩn thận, vẽ thành sơ đồ, sau đó đưa người từ Thận Hy sang khai phá bãi bồi màu mỡ phía tả ngạn sông Hồng.

Bãi bồi khi ấy chưa có chủ, đất hoang hóa mọc toàn lau sậy và cỏ dại. Cụ Lan đã dùng thuyền chứa đầy đất, kéo lướt trên bùn, tạo thành một con ngòi. Làng mới do cụ lập ra vẫn mang tên Thận Hy, nhưng vì phải kiêng tên húy nhà vua nên cụ đổi thành Thuận Vy.

Những nguời có mặt sớm nhất trên đất Thuận Vy thuộc 3 dòng họ Nguyễn Đình, Nguyễn Như và Phạm Văn. Về sau, các dòng họ tiếp tục đưa con cháu đến Thuận Vy sinh cơ lập nghiệp. Khi Thuận Vy được cắt về tỉnh Thái Bình, thuộc tổng Thuận Vy, huyện Thư Trì, phủ Kiến Xương. Xã Thuận Vy đã hình thành “Tam giáp thập nhị thôn” (tức là ba giáp, 12 thôn), mỗi họ lớn là một thôn và 3 hoặc 4 thôn thành một giáp. Dân các thôn chung lưng đấu cật, góp công, góp của xây dựng được 3 ngôi đình khang trang. Mỗi giáp được giao trong coi, quản lí và phụng sự 1 đình: Giáp Thượng phụng tự Thượng Đại đình; giáp Hạ phụng tự Phượng Minh đình; giáp Trung phụng tự Trung Trí đình.

Trải qua hàng trăm năm, với biết bao biến cố thăng trầm, nắng mưa hủy hoại, chiến tranh tàn khốc và cũng do quan niệm sai lệch nên đến nay, cả 3 ngôi đình cổ không còn hiện hữu. Nhằm tri ân công đức của các bậc thánh hiền và tiền nhân, những người đã có công lập nên làng, đồng thời để góp phần xây dựng và bảo tồn văn hóa truyền thống; từ ước nguyện của Nhân dân các thôn và con em của các dòng họ trong làng, được Đảng bộ, chính quyền và các cơ quan chức năng cho phép, Nhân dân Thuận Vy, Bách Thuận đã phục dựng, tôn tạo ngôi đình chung của làng, lấy tên là đình Thuận Vy.

Việc dựng lại đình Thuận Vy được thực hiện đúng quy trình, thủ tục và quy định của pháp luật cũng như quy ước của làng, xã. Ngày 30/4/2006, UBND xã Bách Thuận tổ chức hội nghị tiên thứ chỉ 24 dòng họ trong xã để thống nhất chủ trương: Trên nền tảng của 3 ngôi đình làng Thuận Vy trước đây, tập trung sức người, sức của, phục dựng một ngôi đình chung của làng, trên khuôn viên đình Hạ, thống nhất lấy tên đình là Thuận Vy. Đình Thuận Vy sẽ thay thế 3 ngôi đình trước đây. UBND xã đã cử ra Ban đại diện thực hiện nhiệm vụ phục dựng đình.

Sáng 28/12/2006, Ban Chỉ đạo phục dựng đình làng Thuận Vy long trọng tổ chức lễ khởi công xây dựng tòa nội điện. Đông đảo cán bộ, đảng viên, Nhân dân Bách Thuận tham gia lễ khởi công. Ai cũng muốn được góp một phần nhỏ bé của mình vào công trình văn hóa tâm linh của làng, của xã. Có rất nhiều con em của Thuận Vy đang học tập, công tác và sinh sống ở khắp mọi miền đất nước, nghe tin quê cha đất tổ dựng lại ngôi đình, đã gửi tiền về tiến cúng và tham gia lao động. Hơn 1 năm thi công, khu nội điện đã hoàn thành. Đây là cung thờ Thành Hoàng. Gian giữa tòa nội điện có 3 ban thờ thánh: 8 cỗ khám thờ bát vị thủy thần được đặt tại ban trong cùng, 5 cố khám thờ ngũ vị nhân thần đặt tại ban giữa, trong đó có 2 nữ thần là bà Ả Lã Phương Dung, đại tướng của Hai Bà Trưng và ni sư Nguyễn Thị Uyển Trà, Phật Bà làng Thuận Vy; cùng các vị Nguyễn Kim Phẩm, Nguyễn Kim Trân, Nguyễn Kim An, Đại tướng của vua Quang Trung. Ban thờ ngoài cùng của tòa nội điện, được gọi là Hạ ban, đây là nơi thờ ngũ hổ thần tướng cùng một giàn tự khí, chấp kích, bát bửu và bàn thờ cộng đồng, thổ công bản cảnh. Tất cả các bức bình phong, câu đối và các họa tiết hoa văn trang trí trong nội điện đều cực kì tinh xảo.

Sau khi khánh thành tòa nội điện, cán bộ, Nhân dân Bách Thuận lại tiếp tục xây dựng Tòa Bái đường theo thiết kế đã được duyệt. Cuối tháng 8/2011, khởi công xây dựng Tòa Bái đường và tháp môn. Tòa Bái đường của Thuận Vy đình tọa lạc ngay trên nền ngôi đình Hạ ngày trước. Tòa nhà cao, đẹp, vững chãi với 32 cột lớn và những vì kèo, chồng đấu được chạm khắc hoa văn tài ba tinh xảo. Trước cửa tòa bái đường có hai đôi câu đối phù hợp với cảnh quan của làng vườn sinh thái: “Phong cảnh trang nghiêm hoa đua sắc - Hào quang linh ứng phụng minh hương”; và “Kiến thiết bái đường lưu hậu thế - Trúc thành cung điện tế tiền nhân”.

Phong cảnh của làng vườn sinh thái đầy hoa thơm; còn ngôi đình như vầng nhật nguyệt, tỏa ánh hào quang soi rọi tới muôn nơi. Cán bộ, Nhân dân Thuận Vy kiến thiết tạo dựng ngôi đình làng để lưu truyền cho hậu thế, người già, lớp trẻ đều hiểu rất rõ về lịch sử ngôi đình làng, một công trình văn hóa tâm linh của miền quê hiếu khách, miền quê văn hiến. Tòa nội điện và tòa bái đường bừng sáng trong nắng sớm, ghi nhớ công ơn của các bậc tiền nhân. Hai bên tả hữu tòa bái đường có hai tấm bia đá cỡ lớn, ghi danh những tổ chức, cá nhân đã phát tâm công đức góp tiền, góp sức xây dựng nên đình Thuận Vy. Trước cửa Tòa Bái đường về phía Đông có tấm bia ghi tên những người phát tâm công đức tiến cúng hiện vật để thờ trong tòa nội điện. Khoảng giữa từ Tòa Bái đường đến bình phong tháp môn là sân đình. Một cái sân rất rộng, đủ chỗ cho hàng trăm người dâng hương dự hội. Tháp môn đình Thuận Vy xây dựng khá công phu và tuyệt mĩ, đúng phong cách cổng tam quan, gồm một cổng chính và hai cổng phụ.

Ngày khởi công làm đình đã vui, ngày khánh thành đình làng càng vui gấp bội. Trong 2 ngày đầu tháng 2 năm Nhâm Dần 2022, Bách Thuận mở lễ hội truyền thống, khánh thành ngôi đình mới. Con em của xã cùng quý khách thập phương, những người mến mộ làng vườn đã về tham gia ngày hội.

Đình Thuận Vy được làm theo hướng chính Nam. Trước cửa đình có một hồ nước trong xanh, giữa hồ nước là một gò đất nổi, mang dáng linh quy vươn cổ hướng vào đình. Trên gò đất ấy là những cây xanh, cây cọ dừa, cây hoa. Nếu bắc một cây cầu nho nhỏ, dẫn du khách đi từ tháp môn ra gò nổi để thăm thú cảnh điền viên thì nơi đây sẽ là điểm đến đầy lí tưởng.