ФСБ призывает к контролю агентного ИИ в финансовой сфере на фоне всплеска внедрения

Совет по финансовой стабильности (FSB) опубликовал доклад в среду, 10 июня, призвав ужесточить контроль за агентными системами ИИ (agentic AI) в финансовом секторе. FSB указал на риски автономного ИИ, который может проявляться на высокой скорости, включая несанкционированные действия, утечки данных и сбои в связанных системах. Руководство отвечает на ускоряющееся внедрение ИИ, способного планировать, рассуждать и выполнять задачи при ограниченном надзоре со стороны людей — в том числе в выявлении мошенничества, обслуживании клиентов и бэк-офисных функциях.

Финансовый сектор: 52% активного внедрения агентного ИИ

По данным опроса Cambridge Centre for Alternative Finance, 52% респондентов из финансового сектора сообщили о наличии активного внедрения агентного ИИ. Из них 23% масштабируют или трансформируют операции, а 29% проводят пилоты агентных функций. Под агентным ИИ понимаются системы, которые способны планировать, рассуждать и выполнять задачи при ограниченном надзоре со стороны людей.

Регуляторы и глобальные органы по стандартизации усилили предупреждения о рисках ИИ с тех пор, как Anthropic выпустила Mythos — эксперты считают, что он создаёт значительные киберриски для банковской отрасли.

FSB: в ИИ-системах выявлены риски скорости и автономности

В докладе FSB говорится, что автономный ИИ несёт риски, которые могут «проявляться на высокой скорости». Разработчик стандартов предупредил, что ИИ-агенты могут предпринимать действия, отклоняющиеся от намерений компаний, при этом сотрудники могут не заметить этого или не успеть быстро вмешаться. В докладе отмечено: «ИИ-агенты создают особую задачу для человеческого надзора».

К выявленным рискам относятся возможность несанкционированных или незаконных действий, утечек данных и сбоев в связанных системах.

Предлагаемые меры защиты включают пороги одобрения человеком и дедлайн по обратной связи

FSB изложил ряд предлагаемых «надёжных практик» в необязательных руководящих принципах, открытых для обратной связи до 22 июля. Рекомендации призывают финансовые компании определить чёткие границы применения ИИ и встроить меры защиты.

Предлагаемые меры включают ограничения на то, что ИИ-агенты могут делать, а также требования к одобрению человеком для действий с высоким риском, например для финансовых транзакций выше определённых порогов. FSB также предложил компаниям рассмотреть адаптацию кадрового контроля и процессов под ИИ-агентов так, чтобы относиться к ним как к «синтетическим сотрудникам».

FAQ

Что Совет по финансовой стабильности опубликовал 10 июня?

Совет по финансовой стабильности (FSB) опубликовал доклад в среду, 10 июня, призвав ужесточить контроль за агентными системами ИИ (agentic AI) в финансовом секторе. В докладе изложены предлагаемые «надёжные практики», включая ограничения на действия ИИ-агентов и требования к одобрению человеком для задач с высоким риском.

Насколько широко агентный ИИ внедрён в финансовом секторе?

По данным опроса Cambridge Centre for Alternative Finance, 52% респондентов из финансового сектора сообщили о наличии активного внедрения агентного ИИ. Из них 23% масштабируют или трансформируют операции, а 29% проводят пилоты агентных функций. Агентный ИИ используется для выявления мошенничества, обслуживания клиентов и бэк-офисных функций.