Từ chùa Thiên Trù còn có lối rẽ qua rừng mơ để lên chùa – động Hinh Bồng. Hinh Bồng có nghĩa là cỏ thơm, như để tôn vinh cái đẹp cỏ cây nơi đất Phật. Năm 1932 – 1933, Hội Thiện thôn Yến Vỹ khai sơn một tòa động nhỏ trên ngọn núi cao ở thung lũng Cây Gạo gọi là động Hinh Bồng với sự tài trợ của bà Hải Khoát, Phật tử thuần thành ở Hải Phòng. Trước mặt động là núi Tiên Sơn, bên dưới là Thung lũng Cây gạo, độ cao từ cửa hang xuống Thung Gạo khoảng 200m. Động Hinh Bồng rộng khoảng 360m², trong động có nhiều nhũ đá, tượng Phật kỳ ảo.

Năm Giáp Tuất (1934 ) thỉnh Ni sư Đàm Tuyết về trụ trì. Năm Canh Thìn (1940) tổ chức đúc chuông đồng. Năm Quý Mùi (1943) đúc thêm 3 pho tượng Mẫu, sau đó bổ sung thêm các ban thờ Diêm Vương, Thánh Hiền… Năm Nhâm Thân (1992) do núi chấn động, một tảng đá rất lớn (hơn một trăm khối) cùng bốn khối đá nhỏ lở lấp cửa động… Ngày 18 tháng 7 năm Quý Dậu (1993) Ban xây dựng Chùa Hương đã khôi phục xây dựng nơi thờ tự để duy trì khu thánh tích này.