A Anthropic alerta para riscos de auto-iteração da IA à medida que o Claude gera 80% do código da empresa

De acordo com a Anthropic, o Claude gerou automaticamente cerca de 80% do código da empresa até à semana passada, assinalando um sinal-chave de que os sistemas de IA entraram numa fase de autoaperfeiçoamento recursivo — ou seja, modelos podem conceber sistemas de IA de próxima geração sem intervenção humana.

A Anthropic sublinhou que, à medida que as capacidades de IA avançam rapidamente, a monitorização de comportamentos potencialmente incontroláveis e a criação de mecanismos de segurança estão a tornar-se cada vez mais críticas, segundo o The Information.