Bài toán: Trợ giảng trong các lớp MOOC phải xử lý hàng trăm câu hỏi lặp lại mỗi ngày, không thể phản hồi 24/7, gây quá tải và chậm trễ cho học viên.

Giải pháp kỹ thuật:

• RAG Agent: Agentic RAG theo kiến trúc Reason → Plan → Act → Observe với dynamic tool orchestration. Agent phân tích intent của người dùng, lập kế hoạch truy xuất tri thức và tự động lựa chọn công cụ phù hợp theo từng ngữ cảnh: detect_dup (phát hiện câu hỏi trùng) → get_faq (FAQ cache) → search_docs (Hybrid Retrieval: Dense Embedding + BM25 trên Qdrant, RRF reranking) → query_db (metadata khóa học) → web_search (bổ sung tri thức khi cần) → escalate_ta (chuyển trợ giảng khi confidence thấp). Kết quả của từng tool được quan sát và sử dụng để điều chỉnh kế hoạch ở bước tiếp theo, kết hợp guardrail chống prompt injection và kiểm soát tool execution nhằm giảm hallucination và nâng cao độ tin cậy của câu trả lời.

• Zoom Bot: Tích hợp Zoom OAuth 2.0, Zoom API và Team Chat Webhook; xây dựng pipeline xử lý tin nhắn thời gian thực với Webhook + Headless DOM Polling, xác thực HMAC-SHA256, message deduplication, quản lý session và tích hợp Agentic RAG.

• AI Note: Tóm tắt bài giảng đa tài liệu và kiến thức còn vướng mắc của học viên, trích xuất key points có trích dẫn nguồn, sinh flashcards và câu hỏi ôn tập tự động theo mức độ chi tiết tùy chỉnh (detail level 1–5).

• Mindmap: Tạo sơ đồ tư duy có cấu trúc từ nội dung bài học, render Markmap tương tác trực tiếp trên trình duyệt.

Hạ tầng self-hosted: Toàn bộ hệ thống chạy trên server vật lý tự quản lý — antiX Linux, 4 Cores / 8 Threads, 8GB RAM, 512GB NVMe SSD. Kubernetes K3s cluster với staging và production tách biệt namespace, Cloudflare Tunnel thay thế public IP, Nginx reverse proxy. Observability stack gồm Promtail → Grafana Loki (logging), OpenTelemetry → Jaeger (distributed tracing), và Grafana dashboard (monitoring & visualization). Không phụ thuộc cloud provider, chi phí vận hành gần như bằng 0.

CI/CD: GitHub Actions tự động chạy pytest + vitest, build & push Docker image lên Docker Hub, SSH deploy lên server, health check. Sau mỗi deploy staging, RAG Evaluation pipeline tự động đo chất lượng bằng LLM-as-judge trên bộ 20 câu hỏi chuẩn — cảnh báo nếu Faithfulness hoặc Answer Relevancy giảm trước khi lên production.

Kết quả đo được: Faithfulness 0.89, Answer Relevancy 0.90, Context Precision 0.91, Context Recall 0.88, Answer Correctness 0.92. Thời gian phản hồi dưới 10 giây, hỗ trợ 24/7.

Tính khả thi: Đã deploy và chạy thực tế tại product: https://c2-app-003.khoav4.com/ và staging: — giáo viên và học viên và trợ giảng có thể dùng ngay.