Bài toán

Mỗi kỳ, phòng Đào tạo nhận hàng trăm câu hỏi lặp về quy chế, lịch thi, điểm số; sinh viên phải chờ nhiều ngày. Tài liệu nằm rải rác ở hàng trăm file PDF, cập nhật thủ công khắp nơi.

Giải pháp kỹ thuật

Không phải một RAG bot thông thường. Thay vì cắt tài liệu thành mảnh thô rồi truy hồi mảnh, hệ thống biên soạn lại tri thức qua pipeline LLM 5 pha:

• MAP → REDUCE → REFINE → VERIFY → COMMIT: trích xuất sự kiện, gộp & khử trùng lặp xuyên tài liệu, viết lại thành trang wiki markdown, AI verifier dò mâu thuẫn logic trước khi lưu.
• Khác biệt cốt lõi: hợp nhất xuyên tài liệu (compounding knowledge — một nguồn chân lý bồi đắp dần), kiểm chứng mâu thuẫn, đồ thị tri thức [[wikilink]], minh bạch chi phí theo từng pha.
• Chatbot dùng RAG trên pgvector (search_wiki → read_wiki_page) trả lời trích thẳng từ wiki → zero-hallucination.

Kiến trúc

2-agent (Router → Worker) + MCP tools · FastAPI + Next.js · Claude Sonnet 4.6 (1M context) · Postgres/pgvector + Redis + MinIO · deploy Railway với CI/CD + regression gate.

Guardrails & Kết quả

• Guardrail 4 tầng, nổi bật: chống prompt-injection bằng server-side override student_id từ JWT.
• Hit Rate 0.91 · Groundedness 0.96 · chi phí $0.0011/câu hỏi ($0.033/user/tháng).

Tính khả thi & Hướng phát triển

Đã live production với CI/CD tự động. Roadmap: rate-limit per-user, PII output filter, tối ưu latency (gộp tool giảm ~40%).