Центральные банкиры бьют тревогу из-за рисков агентного ИИ для глобальной финансовой стабильности

Центральные банкиры и финансовые регуляторы усиливают предупреждения о быстром внедрении агентного искусственного интеллекта на финансовых рынках, заявляя, что эта технология может создать новые системные риски, к которым существующие регуляторные рамки не готовы. Обеспокоенность возникает на фоне того, как банки и финансовые учреждения ускоряют использование систем ИИ, способных принимать автономные решения, совершать транзакции и координировать сложные задачи с ограниченным вмешательством человека.

Чиновники, выступавшие на недавних международных политических форумах, подчеркнули, что хотя искусственный интеллект может повысить эффективность, снизить затраты и расширить доступ к финансовым услугам, агентный ИИ представляет собой значительный сдвиг по сравнению с традиционной автоматизацией. В отличие от обычных моделей ИИ, агентные системы могут самостоятельно планировать, рассуждать и действовать в рамках множества финансовых процессов, создавая новые проблемы для надзора и подотчетности.

Растущие опасения по поводу автономного принятия решений

Заместитель управляющего Банка Англии Сара Бриден предупредила, что финансовое регулирование может потребовать значительных реформ по мере того, как агентный ИИ будет глубже интегрироваться в банковское дело, платежи и торговлю. Она утверждала, что традиционные требования к контролю со стороны человека могут оказаться недостаточными, поскольку автономные системы могут работать со скоростью и масштабом, недоступными человеческому надзору.

Регуляторы всё больше обеспокоены несколькими рисками, включая:

• Усиление волатильности рынка из-за скоординированного торгового поведения AI-агентов.
• Кибератаки становятся более изощренными по мере того, как ИИ выявляет уязвимости систем.
• Быстрое распространение операционных сбоев во взаимосвязанных финансовых учреждениях.
• Неясная подотчетность, когда автономные системы принимают финансовые решения.

Бриден также предположила, что регуляторам могут потребоваться новые меры защиты, такие как экстренные выключатели, аварийные остановки и более строгие меры операционной устойчивости, чтобы ограничить влияние сбоев, вызванных ИИ.

Призывы к усилению глобального надзора

Обсуждение выходит за пределы Соединенного Королевства. Официальные лица центральных банков и международные финансовые организации подчеркнули опасения, что энтузиазм по поводу инвестиций, связанных с ИИ, может также раздуть пузыри активов и усилить финансовую нестабильность, если ожидания не будут соответствовать экономической реальности.

В то же время регуляторы признают, что ИИ предлагает значительный прирост производительности для финансовых учреждений, что делает полные запреты маловероятными. Вместо этого политики, похоже, сосредоточены на разработке структур управления, которые балансируют инновации и финансовую стабильность.

По мере того как финансовые фирмы продолжают внедрять все более автономные системы ИИ, центральные банки сигнализируют, что модернизация регулирования станет приоритетом. Теперь задача заключается в том, чтобы гарантировать, что меры защиты развиваются достаточно быстро, чтобы не отставать от технологий, прежде чем автономные финансовые системы прочно укоренятся на мировых рынках.