TrustAI là nền tảng kiểm thử AI Agent do nhóm COFFEMachine phát triển. Hệ thống tự động tạo test case, thực thi kiểm thử và đánh giá các ứng dụng sử dụng RAG hoặc Tool Calling.

Với RAG, TrustAI kiểm tra mức độ chính xác, liên quan và bám sát tài liệu nguồn của câu trả lời. Với Tool Calling, hệ thống đánh giá khả năng lựa chọn đúng công cụ, truyền đúng tham số và hoàn thành đúng tác vụ.

Mỗi lần kiểm thử đều lưu lại kết quả, metric và trace, giúp đội ngũ không chỉ biết AI Pass hay Fail, mà còn xác định được AI sai ở đâu và vì sao sai. Trong tương lai, nền tảng có thể được tích hợp vào quy trình CI/CD để kiểm thử AI tự động trước mỗi lần triển khai.

Nhóm phát triển: COFFEMachine Slogan: Make AI Earn Your Trust.