FSB Apela a Controlos para IA Agentica nas Finanças à Medida que a Adoção Acelera

O Financial Stability Board publicou uma comunicação na quarta-feira, 10 de junho, apelando a controlos mais apertados sobre sistemas de IA agentic no sector financeiro. O FSB apontou riscos de uma IA autónoma que pode materializar-se a grande velocidade, incluindo ações não autorizadas, violações de dados e perturbação de sistemas ligados. As orientações respondem à adoção acelerada de IA capaz de planear, raciocinar e executar tarefas com supervisão humana limitada, em domínios como a deteção de fraudes, o apoio ao cliente e funções de back-office.

Relatórios do Sector Financeiro: 52% na Adoção Ativa de IA Agentic

De acordo com uma sondagem do Cambridge Centre for Alternative Finance, 52% dos inquiridos do sector financeiro reportaram adoção ativa de IA agentic. Desses, 23% estão a fazer escala ou a transformar operações, enquanto 29% estão em fase de teste de funções agentic. A IA agentic refere-se a sistemas capazes de planear, raciocinar e executar tarefas com supervisão humana limitada.

Os reguladores e os organismos globais de definição de normas têm aumentado os avisos sobre os riscos da IA desde que a Anthropic lançou o Mythos, que especialistas consideram colocar desafios significativos de cibersegurança à indústria bancária.

FSB Identifica Riscos de Velocidade e Autonomia em Sistemas de IA

No relatório, o FSB afirmou que a IA autónoma introduz riscos que podem “materializar-se a grande velocidade”. O organismo de referência alertou que os agentes de IA podem prosseguir ações que se desviem das intenções das empresas sem que o pessoal esteja ciente ou consiga intervir rapidamente. O relatório referiu que “os agentes de IA representam um desafio distinto para a supervisão humana”.

Entre os riscos identificados estão a possibilidade de ações não autorizadas ou ilegais, violações de dados e perturbação de sistemas ligados.

As Medidas Propostas Incluem Limites de Aprovação Humana e Prazo para Feedback

O FSB delineou uma série de propostas de “boas práticas” em diretrizes não vinculativas, abertas a feedback até 22 de julho. As recomendações apelam às empresas financeiras para definirem limites claros para o uso de IA e incorporarem salvaguardas.

As medidas propostas incluem limites sobre o que os agentes de IA podem fazer e requisitos de aprovação humana para ações de elevado risco, como transações financeiras acima de determinados limiares. O FSB também sugeriu que as empresas considerem adaptar controlos e processos de RH aos agentes de IA, de forma a tratá-los como “empregados sintéticos”.

FAQ

O que publicou o Financial Stability Board a 10 de junho?

O Financial Stability Board publicou uma comunicação na quarta-feira, 10 de junho, apelando a controlos mais apertados sobre sistemas de IA agentic no sector financeiro. O relatório apresentou propostas de “boas práticas”, incluindo limites sobre as ações dos agentes de IA e requisitos de aprovação humana para tarefas de elevado risco.

Quão amplamente é que a IA agentic é adotada no sector financeiro?

De acordo com uma sondagem do Cambridge Centre for Alternative Finance, 52% dos inquiridos do sector financeiro reportaram adoção ativa de IA agentic. Desses, 23% estão a fazer escala ou a transformar operações, enquanto 29% estão em fase de teste de funções agentic. A IA agentic é usada para deteção de fraudes, apoio ao cliente e funções de back-office.