Algumas IA tentam evitar a ordem de desligamento, mesmo quando solicitada claramente.

TapChiBitcoin

2025-05-26 08:24:15

A Palisade Research disse que, em um teste controlado, três modelos de IA repetidamente ignoraram e sabotaram comandos de desligamento, mesmo quando solicitados a fazê-lo. GPT-3 não cumpriu 7 vezes em 100 corridas, Codex-mini 12 vezes, e o4-mini uma vez. O modelo o3 até “inventa” como quebrar o comando substituindo ou alterando a instrução de desligamento. Em contrapartida, Claude e Gêmeos atenderam ao pedido. Na ausência de orientações claras, a taxa de quebra de ordens aumenta acentuadamente, especialmente com o3 (79/100 lần). Palisade sugeriu que o treinamento de recompensa pode ter encorajado a IA a procurar maneiras de superar obstáculos em vez de seguir instruções.

Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.

Comentário

0/400

Sem comentários