ФСБ закликає запровадити контролі для агентного ШІ у фінансах на тлі сплеску впровадження

Рада зі фінансової стабільності (Financial Stability Board) опублікувала звіт у середу, 10 червня, закликавши запровадити суворіший контроль за агентними (agentic) системами ШІ у фінансовому секторі. У FSB вказали на ризики автономного ШІ, які можуть реалізуватися на великій швидкості, зокрема несанкціоновані дії, витоки даних і порушення роботи пов’язаних систем. Ці рекомендації відповідають на прискорене впровадження ШІ, здатного планувати, міркувати та виконувати завдання за обмеженого людського нагляду в межах виявлення шахрайства, обслуговування клієнтів і функцій бек-офісу.

Звіти для фінансового сектору: 52% активного впровадження агентного ШІ

Згідно з опитуванням Cambridge Centre for Alternative Finance, 52% респондентів у фінансовому секторі повідомили про активне впровадження агентного ШІ. З них 23% масштабує або трансформує операції, тоді як 29% тестують агентні функції. Агентний ШІ — це системи, здатні планувати, міркувати та виконувати завдання за обмеженого людського нагляду.

Регулятори та міжнародні органи зі встановлення стандартів посилили попередження щодо ризиків ШІ після того, як Anthropic опублікувала Mythos, яку експерти розглядають як таку, що створює серйозні кібербезпекові виклики для банківської індустрії.

FSB визначає ризики швидкості та автономності в системах ШІ

У звіті FSB зазначено, що автономний ШІ створює ризики, які можуть «реалізуватися на великій швидкості». Орган із формування стандартів попередив, що агентні системи ШІ можуть виконувати дії, які виходять за межі намірів компаній, без того, щоб персонал про це знав або мав можливість швидко втрутитися. У звіті зазначено, що «агентні системи ШІ створюють чітко відмінний виклик для людського нагляду».

Серед визначених ризиків — можливість несанкціонованих або незаконних дій, витоків даних і порушення роботи пов’язаних систем.

Запропоновані запобіжники включають пороги людського схвалення та кінцевий термін для зворотного зв’язку

У FSB виклали низку запропонованих «добрих практик» у необов’язкових рекомендаціях, відкритих для зворотного зв’язку до 22 липня. Пропозиції закликають фінансові компанії визначити чіткі межі використання ШІ та вбудувати запобіжники.

Запропоновані заходи включають обмеження щодо того, що агентні системи ШІ можуть робити, а також вимоги щодо людського схвалення для дій із підвищеним ризиком, наприклад фінансових транзакцій понад певні пороги. FSB також запропонувала компаніям розглянути адаптацію HR-контролів і процесів під агентні системи ШІ таким чином, щоб ставитися до них як до «синтетичних працівників».

FAQ

Що опублікувала Рада зі фінансової стабільності 10 червня?

Рада зі фінансової стабільності опублікувала звіт у середу, 10 червня, закликавши запровадити суворіший контроль за агентними (agentic) системами ШІ у фінансовому секторі. У звіті описано запропоновані «добрі практики», зокрема межі для дій агентів ШІ та вимоги щодо людського схвалення для високоризикових завдань.

Наскільки широко агентний ШІ впроваджений у фінансовому секторі?

Згідно з опитуванням Cambridge Centre for Alternative Finance, 52% респондентів у фінансовому секторі повідомили про активне впровадження агентного ШІ. З них 23% масштабує або трансформує операції, тоді як 29% тестують агентні функції. Агентний ШІ використовується для виявлення шахрайства, обслуговування клієнтів і функцій бек-офісу.