FSB exige controles de IA agentica en las finanzas ante un aumento acelerado de la adopción

El Consejo de Estabilidad Financiera publicó el miércoles 10 de junio un informe en el que pide controles más estrictos sobre los sistemas de IA agentica en el sector financiero. El FSB citó riesgos de la IA autónoma que pueden materializarse a gran velocidad, incluidas acciones no autorizadas, filtraciones de datos y la interrupción de sistemas conectados. La guía responde a la adopción acelerada de IA capaz de planificar, razonar y ejecutar tareas con supervisión humana limitada en la detección de fraudes, el servicio al cliente y funciones de back-office.

Informes del sector financiero: 52% de adopción activa de IA agentica

Según una encuesta del Cambridge Centre for Alternative Finance, el 52% de los encuestados del sector financiero informó una adopción activa de IA agentica. De estos, el 23% está escalando o transformando operaciones, mientras que el 29% está probando funciones agenticas. La IA agentica se refiere a sistemas capaces de planificar, razonar y ejecutar tareas con supervisión humana limitada.

Los reguladores y los organismos globales de fijación de estándares han intensificado las advertencias sobre los riesgos de la IA desde que Anthropic lanzó Mythos, que los expertos consideran que plantea importantes desafíos de ciberseguridad para la industria bancaria.

El FSB identifica riesgos de velocidad y autonomía en los sistemas de IA

El informe del FSB señaló que la IA autónoma introduce riesgos que pueden “materializarse a gran velocidad”. El organismo de estándares advirtió que los agentes de IA podrían perseguir acciones que se aparten de las intenciones de las firmas sin que el personal lo sepa o pueda intervenir rápidamente. El informe señaló que “los agentes de IA plantean un desafío distinto para la supervisión humana”.

Los riesgos identificados incluyen la posibilidad de acciones no autorizadas o ilegales, filtraciones de datos y la interrupción de sistemas conectados.

Las salvaguardas propuestas incluyen umbrales de aprobación humana y fecha límite de retroalimentación

El FSB expuso una serie de “buenas prácticas” propuestas en directrices no vinculantes, abiertas a comentarios hasta el 22 de julio. Las recomendaciones instan a las firmas financieras a definir límites claros sobre el uso de IA e incorporar salvaguardas.

Las medidas propuestas incluyen límites sobre lo que los agentes de IA pueden hacer y requisitos de aprobación humana para acciones de alto riesgo, como transacciones financieras por encima de ciertos umbrales. El FSB también sugirió que las firmas consideren adaptar los controles y procesos de RR. HH. a los agentes de IA de una manera que los trate como “empleados sintéticos”.

FAQ

¿Qué publicó el Consejo de Estabilidad Financiera el 10 de junio?

El Consejo de Estabilidad Financiera publicó el miércoles 10 de junio un informe en el que pide controles más estrictos sobre los sistemas de IA agentica en el sector financiero. El informe detalló “buenas prácticas” propuestas, incluidas limitaciones sobre las acciones de los agentes de IA y requisitos de aprobación humana para tareas de alto riesgo.

¿Qué tan ampliamente se adopta la IA agentica en el sector financiero?

Según una encuesta del Cambridge Centre for Alternative Finance, el 52% de los encuestados del sector financiero informó una adopción activa de IA agentica. De estos, el 23% está escalando o transformando operaciones, mientras que el 29% está probando funciones agenticas. La IA agentica se usa para la detección de fraudes, el servicio al cliente y funciones de back-office.