Bài toán Các cộng đồng trực tuyến thường gặp tình trạng quá tải kiểm duyệt, nội dung gây xung đột, spam/lừa đảo và nhiều câu hỏi lặp lại. Việc kiểm tra thủ công khiến Admin/Mod dễ bỏ sót cảnh báo và mất nhiều thời gian xử lý. Giải pháp THO – Triage, Help, Oversight là trợ lý AI quản lý cộng đồng, hiện được triển khai thử nghiệm trên Discord. Hệ thống phân luồng yêu cầu thành Rule, Moderation, FAQ và RAG/LLM để xử lý đúng mục đích:

• Trả lời lệnh và câu hỏi FAQ đã được Admin duyệt.
• Dùng RAG có trích nguồn hoặc LLM khi FAQ chưa có đáp án phù hợp.
• Phát hiện nội dung rủi ro qua Fast Filter, Context Review và Embedding Retrieval.
• Gửi cảnh báo đến Admin/Mod qua dashboard và Telegram.
• Lưu dữ liệu, phản hồi kiểm duyệt và lịch sử FAQ trên Supabase.
• Theo dõi điểm uy tín của thành viên dựa trên các sự kiện đã được xác nhận. THO chỉ hỗ trợ phân tích và đề xuất. Mọi quyết định tác động đến thành viên hoặc nội dung vẫn do Admin/Mod phê duyệt. Tính khả thi MVP đã có luồng hoạt động end-to-end giữa Discord, AI pipeline, Supabase, Telegram và trang quản trị. Kiến trúc tách biệt các luồng xử lý, cho phép bổ sung dữ liệu, thay đổi mô hình và điều chỉnh ngưỡng đánh giá mà không phải xây dựng lại toàn bộ hệ thống. Hướng phát triển
• Mở rộng từ một cộng đồng thử nghiệm sang quản lý đa cộng đồng.
• Bổ sung dữ liệu tiếng Việt cho moderation, spam và lừa đảo.
• Cải thiện reranking, relevance và đánh giá ngữ cảnh hội thoại.
• Xây dựng bộ đánh giá định kỳ để theo dõi độ chính xác, độ trễ và tỷ lệ cảnh báo sai.
• Thêm tính năng scope cá nhân hóa cho từng cộng đồng