O CEO da Anthropic pede auditorias obrigatórias de segurança da IA após o lançamento do Claude Fable 5

O CEO da Anthropic, Dario Amodei, publicou um ensaio de política em 10 de junho, apelando a testes obrigatórios por terceiros para modelos de IA de fronteira, com autoridade governamental para bloquear sistemas que falhem auditorias de segurança. O ensaio, intitulado “Policy on the AI Exponential”, chegou um dia depois de a Anthropic ter lançado o Claude Fable 5 e foi acompanhado por uma proposta legislativa sobre testes de modelos e um enquadramento para deslocação de empregos. Amodei afirmou que a transparência, por si só, já não corresponde aos riscos colocados pela tecnologia de IA que avança rapidamente. A Anthropic investiu em 2025 no apoio a leis baseadas na divulgação, incluindo a SB 53 na Califórnia, a RAISE Act em Nova Iorque e a SB 315 do Illinois, mas Amodei agora propõe um regime modelado na Federal Aviation Administration (FAA), exigindo que os modelos acima de um limiar de computação passem por auditorias obrigatórias em quatro áreas: cibersegurança, armas biológicas, perda de controlo e investigação automatizada de IA.

Amodei Propõe Auditorias Obrigatórias de IA por Terceiros

A proposta de Amodei exige que modelos de IA de fronteira acima de um limiar de computação enfrentem auditorias obrigatórias por terceiros em quatro áreas: cibersegurança, armas biológicas, perda de controlo e investigação automatizada de IA. “Modelos de IA de fronteira, como aviões, devem ser obrigados a passar por testes técnicos e auditorias, e a sua disponibilização deve ser bloqueada ou revertida como uma ameaça para a segurança pública se não cumprirem padrões elevados de segurança”, escreveu Amodei no ensaio. O plano vai além do Executive Order sobre IA de junho da Casa Branca, que Amodei saudou como progresso incremental. A proposta inclui reporte de incidentes de segurança de prompts e proteções rigorosas dos pesos dos modelos.

Pré-visualização do Claude Mythos Resolveu 73% dos Desafios Especializados de Cibersegurança

Amodei identificou a cibersegurança como o primeiro risco a materializar-se plenamente, apontando para a Pré-visualização do Claude Mythos, que resolveu 73% dos desafios de cibersegurança de nível de especialista que nenhum sistema de IA tinha ultrapassado antes. O ensaio alerta que os modelos de fronteira podem perturbar o sector financeiro e infraestruturas críticas. A Anthropic lançou o modelo Claude Fable 5 a 9 de junho com salvaguardas que bloqueiam pedidos de alto risco de cibersegurança e de biologia. Amodei afirmou que estes limites voluntários não podem substituir regras vinculativas em toda a indústria. Os próprios dados da Anthropic mostram que a IA constrói melhor IA, com o Claude a escrever a maior parte do código em grandes laboratórios de IA.

Anthropic Propõe Compensação Salarial e Subvenções para Formação da Força de Trabalho

O ensaio propõe um seguro salarial, incentivos fiscais à retenção e subvenções para formação da força de trabalho para lidar com a deslocação económica. Se a deslocação se revelar duradoura, Amodei afirmou que o rendimento básico universal poderia ser financiado através de impostos sobre empresas ou ganhos de capital. Sobre liberdades civis, Amodei defende uma proibição de armas totalmente autónomas na aplicação da lei doméstica e pede ao Congresso que feche a falha do intermediário de dados que permite compras de vigilância em massa. Geopoliticamente, ele defende uma coligação de democracias para controlar chips e equipamento de fabrico de semicondutores, citando os projetos de lei dos EUA MATCH e OVERWATCH pendentes como primeiros passos para controlos de exportação mais apertados e coordenados.

FAQ

O que é que Dario Amodei propôs a 10 de junho? Dario Amodei publicou um ensaio intitulado “Policy on the AI Exponential” a 10 de junho, propondo testes obrigatórios por terceiros para modelos de IA de fronteira, com autoridade governamental para bloquear sistemas que falhem auditorias de segurança em quatro áreas: cibersegurança, armas biológicas, perda de controlo e investigação automatizada de IA.

Porque é que Amodei indicou a cibersegurança como o primeiro risco a materializar-se plenamente? Amodei apontou para a Pré-visualização do Claude Mythos, que resolveu 73% dos desafios de cibersegurança de nível de especialista que nenhum sistema de IA tinha ultrapassado antes, alertando que os modelos de fronteira poderiam perturbar o sector financeiro e infraestruturas críticas.

Que medidas económicas é que a Anthropic propôs no ensaio? A Anthropic propôs seguro salarial, incentivos fiscais à retenção e subvenções para formação da força de trabalho para abordar a deslocação de empregos, com rendimento básico universal financiado por impostos sobre empresas ou ganhos de capital se a deslocação se revelar duradoura.