№ 15
DataPulse là một hệ thống AI Agent giúp các đội ngũ phụ trách dữ liệu giải quyết quy trình viết test kiểm định thủ công tốn kém thời gian bằng cách tự động hóa việc khảo sát, sinh code dbt test và phát hiện bất thường nhờ kiến trúc Multi-Agent.
Bối cảnh & Vấn đề: Trong các hệ thống vận hành lớn (như dịch vụ gọi xe), dữ liệu thường xuyên gặp phải tình trạng giá trị rỗng (null), sai định dạng hoặc xuất hiện các dữ liệu ngoại lai. Để kiểm soát chất lượng, đội ngũ Data Engineer phải tốn rất nhiều giờ làm việc để viết tay hàng trăm kịch bản kiểm thử (dbt tests). Đây là một quy trình thủ công, dễ sai sót, gây nghẽn cổ chai và khó mở rộng khi lượng dữ liệu của doanh nghiệp tăng lên từng ngày.
Giải pháp: Data Pulse hoạt động như một Trợ lý Data Steward ảo. Khi có luồng dữ liệu mới, hệ thống tự động khảo sát và đề xuất bộ quy tắc chất lượng (uniqueness, not-null, range, format...). Nhờ cơ chế Human-in-the-loop (HITL), người quản trị chỉ cần duyệt qua các đề xuất này. Sau đó, hệ thống sẽ tự động sinh code test, lên lịch chạy định kỳ và cung cấp Dashboard báo cáo theo dõi chất lượng toàn diện.
Ứng dụng AI: Hệ thống kết hợp sức mạnh của 2 luồng công nghệ chính:
Giá trị mang lại: