№ 34
HR Helpdesk AI là một ứng dụng helpdesk nội bộ cho phòng nhân sự. Sản phẩm dùng AI để trả lời câu hỏi về chính sách HR từ tài liệu nội bộ, hiển thị nguồn trích dẫn, kiểm soát quyền truy cập theo vai trò/phòng ban, tạo ticket khi cần HR xử lý và phát hiện các câu hỏi đang được hỏi nhiều (Trending).
Trong các doanh nghiệp vừa và lớn, phòng Nhân sự thường phải quản lý nhiều tài liệu nội bộ như sổ tay nhân viên, chính sách nghỉ phép, bảo hiểm, phúc lợi, lương thưởng, onboarding, kỷ luật, quy tắc ứng xử và thủ tục hành chính. Những tài liệu này có thể nằm trong nhiều file khác nhau, được cập nhật theo thời gian và không phải nhân viên nào cũng biết tìm đúng nơi.
Ở chiều ngược lại, nhân viên thường có nhu cầu hỏi nhanh các câu như: còn bao nhiêu ngày phép, chính sách thử việc thế nào, thủ tục xin giấy xác nhận ra sao, chế độ bảo hiểm gồm những gì, hoặc khi có vấn đề về lương/tài liệu thì phải gửi yêu cầu cho ai. Nếu mọi câu hỏi đều đi qua HR thủ công, đội ngũ HR dễ bị quá tải và khó ưu tiên các vấn đề quan trọng.
HR Helpdesk AI giải quyết bài toán này bằng một trợ lý AI nội bộ có khả năng trả lời dựa trên tài liệu công ty, trích dẫn nguồn, kiểm soát quyền truy cập, hỗ trợ tạo ticket và giúp HR nhìn thấy các chủ đề nhân viên đang quan tâm.
| Vấn đề | Mô tả |
|---|---|
| Quá tải câu hỏi lặp lại | HR phải trả lời nhiều câu hỏi giống nhau về nghỉ phép, bảo hiểm, phúc lợi, quy trình giấy tờ và chính sách nội bộ. |
| Tài liệu phân tán | Chính sách nằm trong nhiều file .docx, .md, .txt hoặc nội dung nhập trực tiếp, khiến nhân viên khó tìm đúng thông tin. |
| Thiếu nguồn kiểm chứng | Câu trả lời nếu không đi kèm tài liệu gốc sẽ khó tạo niềm tin, đặc biệt với các chính sách nhạy cảm. |
| Dữ liệu HR nhạy cảm | Thông tin cá nhân, lương, bảo hiểm, hồ sơ nhân viên và dữ liệu của người khác cần được chặn hoặc phân quyền rõ ràng. |
| Thiếu luồng xử lý tiếp | Khi AI không đủ nguồn hoặc vấn đề cần con người can thiệp, hệ thống cần chuyển thành ticket thay vì bỏ lửng câu hỏi. |
| HR thiếu tín hiệu xu hướng | HR cần biết chủ đề nào đang được hỏi nhiều để bổ sung tài liệu, ra thông báo hoặc chủ động xử lý. |
Hệ thống là một ứng dụng full-stack gồm frontend React/Vite và backend FastAPI. Frontend cung cấp giao diện chat, kho tri thức, ticket, dashboard admin và các trang self-service. Backend chịu trách nhiệm xác thực, điều phối agent, ingest tài liệu, retrieval, guardrails, ticket, trending detection, feedback, Telegram webhook và lưu trữ dữ liệu.
Luồng chính của hệ thống:
| Lớp | Công nghệ | Vai trò |
|---|---|---|
| Frontend | React 18, Vite, TypeScript, Tailwind CSS, lucide-react, framer-motion | Giao diện người dùng, chat streaming, ticket card, dashboard admin. |
| Backend | FastAPI, Pydantic v2, SQLAlchemy async, Alembic | REST API, validation, ORM, migrations, health checks. |
| Agent orchestration | LangGraph | Điều phối guardrails, intent routing, RAG, HR metrics, ticket draft và output safeguard. |
| LLM | Google Gemini qua google-genai | Sinh câu trả lời, streaming, tool choice, embeddings và topic classifier. |
| Retrieval | ChromaDB, hybrid semantic + lexical search, Cohere Rerank | Lưu vector, truy xuất tài liệu liên quan, rerank kết quả. |
| Database | SQLite local/test, PostgreSQL production | Users, refresh tokens, chat sessions, messages, workflow state, tickets, feedback, query logs, document metadata. |
| Auth/Security | JWT, refresh token rotation, bcrypt, RBAC | Xác thực, phân quyền, bảo vệ endpoint quản trị. |
| Guardrails | Rule-based checks + Groq/OpenAI safeguard provider + topic classifier | Chặn jailbreak, ngoài phạm vi, dữ liệu nhạy cảm, tool/output không an toàn. |
| Observability | Python logging, Langfuse | Trace chat/generation/stream, metadata như TTFT, log quyết định guardrail. |
| Deployment | Docker multi-stage, Docker Compose, Uvicorn, Alembic | Build frontend vào backend image, chạy API và static app tại /app. |
| Integration | Telegram Bot Webhook API | Chat qua Telegram, liên kết tài khoản, broadcast TrendPin. |
Admin có thể upload tài liệu chính sách hoặc nhập nội dung trực tiếp. Định dạng upload hiện tại gồm .docx, .md, .markdown, .txt.
Pipeline RAG:
.docx, hệ thống chuyển heading, paragraph và bảng sang dạng markdown-like text.visibility_roles và department_ids.Thiết kế này giúp hệ thống không chỉ “trả lời hay” mà còn trả lời có căn cứ, có thể kiểm chứng và không dùng tài liệu mà user không có quyền đọc.
Luồng chat được triển khai bằng LangGraph. Các bước chính:
input_safeguard: kiểm tra prompt injection, dữ liệu nhạy cảm, yêu cầu nguy hiểm.topic_scope: xác định câu hỏi có nằm trong phạm vi HR/helpdesk không.classify_intent: phân loại intent thành policy question, HR metric, ticket create hoặc general answer.retrieve_policy: tìm nguồn chính sách nếu là câu hỏi cần RAG.answer_with_sources hoặc handle_no_source: trả lời có nguồn hoặc đề xuất gửi ticket nếu không có nguồn phù hợp.handle_ticket_intent: tạo nháp ticket, hỏi bổ sung thông tin thiếu và trả action xác nhận.output_safeguard: kiểm tra câu trả lời cuối trước khi trả về người dùng.Agent có thể trả về các action cho frontend như ticket_draft_confirmation, escalation_confirmation_required, hr_metric_lookup hoặc none. Việc tạo ticket thật luôn cần người dùng xác nhận.
Guardrails gồm nhiều lớp:
| Lớp | Chức năng |
|---|---|
| Input safeguard | Chặn prompt injection, yêu cầu không an toàn và truy cập dữ liệu nhạy cảm không được phép. |
| Topic scope | Giữ bot trong phạm vi HR/helpdesk; câu hỏi ngoài phạm vi sẽ bị từ chối an toàn. |
| Tool guardrail | Kiểm soát tool có side effect như tạo ticket hoặc lookup HR metrics. |
| Output safeguard | Chặn/redact output nhạy cảm hoặc không phù hợp trước khi gửi về user. |
| Mode | block, warn, off để phù hợp từng môi trường. |
Với câu hỏi nhạy cảm/ngoài phạm vi, hệ thống ưu tiên từ chối an toàn. Chỉ các trường hợp cần handoff, ví dụ khiếu nại workplace misconduct hoặc người dùng chủ động yêu cầu hỗ trợ, mới đi vào luồng ticket.
Ticket được dùng cho các trường hợp AI không đủ nguồn, người dùng cần HR xử lý trực tiếp, hoặc người dùng chủ động tạo yêu cầu hỗ trợ. Ticket có trạng thái open, in_progress, resolved, rejected và priority low, normal, high.
Luồng ticket từ chat:
Trending detection ghi nhận các câu hỏi chat vào query log, gom nhóm theo topic_key, tạo trend candidate khi vượt ngưỡng và cho HR admin approve thành TrendPin. TrendPin có thể hiển thị trong frontend và broadcast qua Telegram.
Frontend tập trung vào hai nhóm người dùng:
| Nhóm | Trải nghiệm chính |
|---|---|
| Employee | Chat với AI, xem citations, mở lại lịch sử chat, tạo ticket, xem ticket của mình, xem chủ đề phổ biến và tài nguyên HR. |
| HR Admin | Upload/xóa tài liệu, xem dashboard tổng quan, quản lý ticket toàn hệ thống, chạy trending detection, approve trend pin. |
Chat UI dùng SSE streaming để phản hồi nhanh, hiển thị citations và render action card cho escalation/ticket draft. Sidebar lưu lịch sử chat theo session, giúp người dùng quay lại hội thoại cũ.
| Tiêu chí | Đánh giá | Cơ sở |
|---|---|---|
| Trả lời chính sách có căn cứ | Cao | Đã có pipeline ingest, chunking, Chroma, hybrid retrieval, Cohere rerank và citations. |
| Bảo vệ dữ liệu HR | Khá cao | Có JWT, RBAC, filter role/phòng ban, guardrails nhiều lớp và output safeguard. Cần audit thêm khi dùng dữ liệu thật. |
| Trải nghiệm chat | Cao | Có SSE streaming, lưu session/message, citations, action card và auto refresh token trên frontend. |
| Xử lý ticket | Cao | Đã có luồng ticket draft nhiều lượt, xác nhận trước khi tạo, trang ticket cá nhân và trang quản lý admin. |
| Trending insight | Khá | Đã ghi query log, tạo candidate, approve pin và hiển thị/broadcast TrendPin. Có thể cải thiện clustering sau. |
| Vận hành pilot | Khá cao | Có Docker, Compose, Alembic, health/readiness, PostgreSQL production và Chroma persist. |
| Mở rộng quy mô | Trung bình-Khá | Backend async và DB persist sẵn sàng; rate limit hiện là in-memory, chưa tối ưu multi-instance. |
| Tích hợp hệ thống doanh nghiệp | Trung bình | HR metrics hiện dùng mock/local adapter, cần nối HRIS thật để production hoàn chỉnh. |
| Tài liệu đa định dạng | Trung bình | Đã hỗ trợ .docx, .md, .txt; chưa hỗ trợ PDF/XLSX/PPTX. |
Chi phí vận hành pilot nằm ở bốn nhóm chính:
| Thành phần | Mức chi phí | Ghi chú |
|---|---|---|
| Backend + database | Thấp đến trung bình | Có thể chạy một backend container, PostgreSQL và volume persist trong giai đoạn pilot. |
| Gemini generation/embedding | Thấp đến trung bình | Phụ thuộc số lượng chat, độ dài tài liệu và tần suất ingest. |
| Cohere rerank | Trung bình | Chỉ gọi khi có nhiều candidate cần rerank; có fallback trong một số môi trường. |
| Guardrails/observability | Tùy cấu hình | Groq/OpenAI safeguard và Langfuse có thể bật theo nhu cầu an toàn/giám sát. |
Với quy mô pilot nội bộ, kiến trúc hiện tại có thể vận hành với chi phí hợp lý vì chưa cần queue, Redis, autoscaling phức tạp hay vector database managed riêng. Khi số lượng người dùng/tài liệu tăng, cần tách một số thành phần để đảm bảo độ ổn định.
| Rủi ro | Tác động | Hướng giảm thiểu |
|---|---|---|
| Câu trả lời sai hoặc thiếu căn cứ | Ảnh hưởng niềm tin và quyết định HR | Bắt buộc citations, output safeguard, feedback, benchmark và review tài liệu định kỳ. |
| Lộ dữ liệu nhạy cảm | Rủi ro bảo mật/compliance | RBAC, role/department filtering, guardrails, audit log và kiểm thử bảo mật trước production. |
| Tài liệu lỗi thời | AI trả lời theo chính sách cũ | Thêm versioning, trạng thái hiệu lực, quy trình review và cảnh báo tài liệu cần cập nhật. |
| Provider LLM/rerank lỗi | Gián đoạn chat hoặc retrieval | Multi-key rotation, fallback an toàn, health/readiness và retry có kiểm soát. |
| Scale nhiều instance | Rate limit/session phụ thuộc bộ nhớ cục bộ | Chuyển rate limit/cache/session coordination sang Redis hoặc service tương đương. |
| HRIS chưa tích hợp thật | Self-service metrics chỉ mang tính demo | Xây adapter chuẩn cho HRIS nội bộ và kiểm soát quyền truy cập theo user thật. |
Dự án đã có đủ nền tảng cho production pilot nội bộ:
Các điểm nên hoàn thiện trước khi mở rộng production: HRIS thật, audit log, SSO, Redis/distributed rate limit, hỗ trợ thêm định dạng tài liệu và quy trình review bảo mật dữ liệu thật.
| Hướng | Mô tả |
|---|---|
| Tích hợp HRIS thật | Kết nối SAP SuccessFactors, Base.vn, MISA, BambooHR hoặc hệ thống nội bộ để lấy ngày phép, bảo hiểm, hồ sơ, khen thưởng theo user thật. |
| Mở rộng định dạng tài liệu | Hỗ trợ PDF, XLSX, PPTX và cải thiện parser cho bảng/phụ lục/chính sách dài. |
| Audit log | Ghi lại các hành động quan trọng như upload/xóa tài liệu, cập nhật ticket, approve trend, thay đổi quyền. |
| Redis rate limit/cache | Thay in-memory limiter để hỗ trợ multi-instance và kiểm soát tải tốt hơn. |
| Notification | Gửi thông báo email/Telegram khi ticket cập nhật hoặc có TrendPin mới. |
| Admin user management | Hoàn thiện UI quản lý user, role, phòng ban và trạng thái hoạt động. |
| Hướng | Mô tả |
|---|---|
| SSO | Tích hợp Google Workspace, Microsoft Entra ID hoặc SAML/OIDC để thay email/password nội bộ. |
| Analytics dashboard | Theo dõi satisfaction, query patterns, resolution time, tỉ lệ no-source và chất lượng citations. |
| Human-in-the-loop QA | Cho HR review câu trả lời, gắn nhãn nguồn sai/đúng và cập nhật knowledge base từ feedback. |
| Workflow automation | Kết nối form nghỉ phép, quy trình phê duyệt, ticket routing, SLA và assignee rules. |
| Multi-tenant | Tách dữ liệu theo công ty/tenant nếu sản phẩm phục vụ nhiều tổ chức. |
| Chính sách hiệu lực/versioning | Quản lý phiên bản tài liệu, ngày hiệu lực, ngày hết hạn và cảnh báo tài liệu cũ. |
| Hướng | Mô tả |
|---|---|
| Knowledge graph | Mô hình hóa quan hệ giữa chính sách, phòng ban, đối tượng áp dụng, quyền lợi và quy trình. |
| On-premise/local LLM | Hỗ trợ triển khai nội bộ hoàn toàn cho doanh nghiệp có yêu cầu bảo mật cao. |
| Multi-language | Hỗ trợ tiếng Anh và các ngôn ngữ khác cho doanh nghiệp đa quốc gia. |
| Voice interface | Speech-to-text/text-to-speech cho mobile, Telegram hoặc voicebot nội bộ. |
| Proactive HR assistant | Chủ động gợi ý chính sách, nhắc hạn hợp đồng, nhắc ngày phép còn nhiều hoặc thông báo thay đổi chính sách. |
| Compliance monitoring | Tự động phát hiện câu trả lời có nguy cơ dựa trên tài liệu lỗi thời hoặc thiếu nguồn đáng tin cậy. |
HR Helpdesk AI tập trung giải quyết bài toán giảm tải cho HR và tăng khả năng tự phục vụ của nhân viên bằng một hệ thống AI có kiểm soát. Điểm cốt lõi của giải pháp là RAG có citations, guardrails bảo vệ dữ liệu, phân quyền theo vai trò/phòng ban, luồng ticket rõ ràng và dashboard giúp HR nắm bắt xu hướng.
Phiên bản hiện tại đã đủ nền tảng cho pilot nội bộ: có backend FastAPI, frontend React, LangGraph agent, RAG pipeline, ticket workflow, trending detection, Telegram integration, test suite và Docker deployment. Các bước phát triển tiếp theo nên tập trung vào tích hợp HRIS thật, tăng kiểm soát bảo mật, mở rộng định dạng tài liệu và nâng cấp vận hành cho môi trường production nhiều người dùng.