Kensho – bộ máy đổi mới và chuyển đổi AI của tập đoàn tài chính S&P Global – vừa công bố framework đa tác tử (multi-agent) mang tên Grounding, được xây dựng trên nền tảng LangGraph. Hệ thống này hoạt động như một lớp truy cập thống nhất, giúp giải quyết bài toán truy xuất dữ liệu tài chính phân tán ở quy mô doanh nghiệp, đảm bảo mọi thông tin đầu ra từ AI đều được "neo" (grounded) vào nguồn dữ liệu đã được xác minh.
Bài toán truy xuất dữ liệu tài chính phân mảnh
Trong môi trường tài chính chuyên nghiệp, việc tìm kiếm và xác minh thông tin từ nhiều hệ thống rời rạc thường tiêu tốn hàng giờ làm việc. Các chuyên gia cần truy cập dữ liệu để phân tích báo cáo tài chính, lấy chỉ số, nghiên cứu thị trường… từ nhiều kho dữ liệu khác nhau của S&P Global. Dữ liệu này không đơn thuần là văn bản mà có cấu trúc phức tạp và nhiều sắc thái, đòi hỏi kỹ thuật truy xuất tiên tiến để tích hợp với các ứng dụng AI tạo sinh.
Framework Grounding ra đời nhằm đơn giản hóa quy trình này, tạo ra một điểm truy cập duy nhất cho các truy vấn ngôn ngữ tự nhiên vào kho dữ liệu đã được xác thực. Người dùng không cần phải hiểu cấu trúc cơ sở dữ liệu phức tạp hay học ngôn ngữ truy vấn chuyên biệt. Mọi phản hồi từ hệ thống đều đi kèm trích dẫn nguồn dữ liệu gốc, đảm bảo tính hợp lệ, minh bạch và khả năng truy xuất nguồn gốc.
Kiến trúc framework đa tác tử với LangGraph
Grounding được thiết kế như một điểm vào tập trung, kết nối nhiều tác tử AI (AI agents) với các nguồn dữ liệu đa dạng từ nhiều bộ phận của S&P Global. Thay vì nhúng logic xử lý ngôn ngữ tự nhiên vào từng tác tử riêng lẻ, một bộ định tuyến (router) thông minh sẽ phân luồng truy vấn đến các Tác tử Truy xuất Dữ liệu (Data Retrieval Agents - DRAs) chuyên biệt.
Các DRA này được sở hữu và quản lý bởi các nhóm dữ liệu khác nhau như nghiên cứu vốn chủ sở hữu, thu nhập cố định, kinh tế vĩ mô… Mô hình này tạo ra sự tách biệt rõ ràng giữa lớp định tuyến và lớp truy xuất dữ liệu, cho phép quản lý song song và chuyên môn hóa.
LangGraph chính là động cơ vận hành bộ định tuyến của Grounding. Nó có ba trách nhiệm chính: cung cấp quyền truy cập vào các tác tử phù hợp dựa trên ngữ cảnh truy vấn, chia nhỏ truy vấn thành các truy vấn phụ dành riêng cho từng DRA, và tổng hợp phản hồi từ nhiều DRA để trả về kết quả thống nhất, có thể hành động được cho người dùng. Thiết kế của LangGraph giúp nhóm kỹ sư Kensho dễ dàng lặp lại và kiểm tra bộ định tuyến cục bộ, đảm bảo trải nghiệm phát triển mượt mà.
Lớp tổng hợp và giao thức truy xuất dữ liệu tùy chỉnh
Một thách thức lớn trong các hệ thống dữ liệu và AI phân tán là sự không nhất quán trong giao diện giao tiếp, dẫn đến tương tác giữa các tác tử không đáng tin cậy. Để giải quyết vấn đề này, Kensho đã thiết lập một giao thức truy xuất dữ liệu tùy chỉnh. Lớp tổng hợp (aggregation layer) trong bộ định tuyến giải quyết bài toán map-reduce: tiếp nhận phản hồi phân tán từ nhiều DRA và kết hợp chúng một cách thông minh thành những thông tin chi tiết, mạch lạc và có thể hành động được, vừa duy trì độ chính xác vừa bảo toàn ngữ cảnh.
Mỗi DRA được thiết kế để đảm nhận một trách nhiệm chuyên sâu theo chiều dọc, giúp tăng tỷ lệ tín hiệu trên nhiễu (signal-to-noise ratio) cho các truy vấn sử dụng bộ dữ liệu đó. Điều này đặc biệt quan trọng trong lĩnh vực tài chính, nơi độ chính xác và độ tin cậy của dữ liệu là yếu tố sống còn.
Góc nhìn
Việc Kensho phát triển thành công framework Grounding bằng LangGraph không chỉ là một case study kỹ thuật ấn tượng, mà còn chỉ ra xu hướng tất yếu trong ngành tài chính - ngân hàng và các lĩnh vực yêu cầu độ tin cậy cao khác. Tại thị trường Việt Nam, khi các ngân hàng và tổ chức tài chính đang ngày càng quan tâm đến việc áp dụng AI, bài học về việc xây dựng một "lớp neo dữ liệu" (grounding layer) để đảm bảo đầu ra AI luôn dựa trên nguồn xác thực là vô cùng giá trị. Giải pháp này giúp doanh nghiệp tận dụng sức mạnh của AI tạo sinh mà vẫn kiểm soát được rủi ro về thông tin sai lệch, tuân thủ quy định và nâng cao hiệu quả ra quyết định.
