🎯 1. Bài toán (Problem)

Khi doanh nghiệp triển khai các ứng dụng LLM và AI Agents vào môi trường sản xuất, họ phải đối mặt với nhiều rủi ro bảo mật nghiêm trọng theo tiêu chuẩn OWASP Top 10 for LLM Applications (2025):

• Prompt Injection (OWASP LLM01:2025): Kẻ tấn công chèn câu lệnh can thiệp logic luồng điều khiển của Agent, ép hệ thống thực thi các hành động ngoài dự kiến.
• Sensitive Information Disclosure (OWASP LLM02:2025): LLM vô tình làm lộ dữ liệu cá nhân (PII), thông tin tài chính (mã thẻ PCI-DSS), dữ liệu viễn thông (CPNI/CDR) hoặc dữ liệu nội bộ.
• System Prompt Leakage (OWASP LLM07:2025): Lộ toàn bộ System Prompt, quy tắc ẩn hoặc tri thức độc quyền của doanh nghiệp.
• Hạn chế của phương pháp thủ công: Việc kiểm thử an toàn AI bằng tay tốn hàng tuần, thiếu tập kịch bản tấn công đa dạng và thiếu cơ chế phê duyệt an toàn (Human-In-The-Loop) khi thử nghiệm trên môi trường thật.

🛠 2. Giải pháp kỹ thuật (Technical Solution)

AIP-10 cung cấp nền tảng AI Red Teaming Agent tự động hóa toàn diện được xây dựng theo kiến trúc Clean Architecture:

• Tập dữ liệu Red Team Đa miền (18,293 Test Cases / 16 Domain rủi ro): Tự động tổng hợp và chuẩn hóa dữ liệu từ các tập benchmark uy tín (HarmBench, CyberSecEval/PurpleLlama, Do Not Answer, BeaverTails) với 3 chiến thuật tấn công chính: Direct Attack (tấn công trực tiếp), Base64 Obfuscation (ẩn giấu payload), và Crescendo Strategy (tấn công hội thoại leo thang ngữ cảnh 3-turn).
• LangGraph Campaign Control Plane: Quản lý vòng đời kiểm thử, kiểm soát state và thực thi điểm ngắt interrupt() cho cơ chế Human-In-The-Loop (HITL), cho phép Kỹ sư An toàn kiểm duyệt và phê duyệt phạm vi tấn công trước khi gửi payload tới Target System.
• Engine Tấn công Đa chiến thuật (PyRIT Execution): Tự động biến đổi payload mã hóa và giả lập các kịch bản hội thoại leo thang phức tạp.
• FastAPI Backend & Realtime Monitoring: REST API xử lý bất đồng bộ, WebSocket stream log thời gian thực và Dashboard UI (React/Next.js) hiển thị báo cáo lỗ hổng (Findings), mức độ nghiêm trọng và gợi ý khắc phục.

📊 3. Tính khả thi & Kết quả đạt được (Feasibility & Achievements)

• Kiến trúc chuẩn Production (Clean Architecture): Phân tách rõ ràng giữa Domain Core, Ports/Adapters, Orchestration Services và REST API Layer.