FSB kêu gọi tăng cường kiểm soát đối với AI tác nhân (agentic AI) trong tài chính, 52% doanh nghiệp tài chính đã sử dụng

Theo Hội đồng Ổn định Tài chính (Financial Stability Board) vào ngày 10/6, cơ quan quản lý toàn cầu đã “mạnh mẽ” khuyến khích các tổ chức tài chính triển khai các biện pháp bảo vệ trước rủi ro do AI mang tính tác nhân (agentic AI) gây ra — các hệ thống tự chủ có khả năng lập kế hoạch, suy luận và thực hiện nhiệm vụ với sự giám sát tối thiểu của con người.

Khảo sát của Trung tâm Tài chính Thay thế thuộc Đại học Cambridge (Cambridge Centre for Alternative Finance) cho thấy 52% số người trả lời trong lĩnh vực tài chính cho biết họ đang triển khai AI mang tính tác nhân, trong đó 23% đang mở rộng quy mô hoặc chuyển đổi, và 29% đang thí điểm các chức năng đó. FSB cảnh báo rằng AI mang tính tác nhân có thể thực hiện các hành động đi chệch khỏi ý định của doanh nghiệp mà không có nhân viên nhận biết hoặc khả năng can thiệp nhanh, đồng thời đưa ra các hướng dẫn không ràng buộc, yêu cầu phải xác định rõ ranh giới khi sử dụng AI và có sự phê duyệt của con người đối với các hành động có rủi ro cao.