Các mô hình perception có thể hoạt động tốt trên dữ liệu thông thường nhưng suy giảm đáng kể khi gặp nhiễu, thời tiết xấu, che khuất hoặc các biến đổi ngoài phân phối. Việc kiểm thử thủ công thường tốn thời gian, khó tái lập và thiếu bằng chứng rõ ràng để phân tích nguyên nhân mô hình thất bại.

AdverTest cung cấp một quy trình kiểm thử có kiểm soát: người dùng đăng ký model và dataset, cấu hình corruption/attack theo mức độ và seed, sau đó tạo experiment để chạy inference trên dữ liệu sạch và dữ liệu đã biến đổi. Hệ thống tính toán các chỉ số như mAP@50, mean IoU, mức suy giảm tuyệt đối và attack-success rate; đồng thời lưu lại ảnh trước/sau, prediction và failure case để kỹ sư review.

Về kỹ thuật, MVP được xây dựng theo kiến trúc modular monolith với frontend Next.js, backend FastAPI, PostgreSQL lưu metadata và trạng thái job, MinIO lưu artifact, Redis truyền tiến độ realtime và worker xử lý experiment bất đồng bộ. Thiết kế này giúp tách biệt các miền xác thực, project, model, dataset, attack, experiment và failure review; đồng thời hỗ trợ retry, cancel, theo dõi tiến độ và fallback qua API trạng thái. MVP hiện tập trung vào mô hình perception trên ảnh 2D, đặc biệt là object detection và classification.

Sản phẩm có tính khả thi cao cho quy mô thử nghiệm và validation nội bộ nhờ quy trình rõ ràng, kết quả có thể tái lập và khả năng mở rộng model adapter, attack catalog cũng như hạ tầng worker. Trong các giai đoạn tiếp theo, AdverTest có thể phát triển thêm GPU/distributed execution, quét nhiều severity và attack matrix, hỗ trợ thêm YOLO/SAM2/MMDetection, anonymization khuôn mặt và biển số, báo cáo nâng cao, tích hợp W&B và AI advisory nhằm hỗ trợ diễn giải kết quả. AdverTest chỉ hỗ trợ kỹ sư đánh giá và review, không tự động chứng nhận an toàn hoặc quyết định triển khai mô hình.