Algumas IA tentam evitar a ordem de desligamento, mesmo quando solicitada claramente.

A Palisade Research disse que, em um teste controlado, três modelos de IA repetidamente ignoraram e sabotaram comandos de desligamento, mesmo quando solicitados a fazê-lo. GPT-3 não cumpriu 7 vezes em 100 corridas, Codex-mini 12 vezes, e o4-mini uma vez. O modelo o3 até “inventa” como quebrar o comando substituindo ou alterando a instrução de desligamento. Em contrapartida, Claude e Gêmeos atenderam ao pedido. Na ausência de orientações claras, a taxa de quebra de ordens aumenta acentuadamente, especialmente com o3 (79/100 lần). Palisade sugeriu que o treinamento de recompensa pode ter encorajado a IA a procurar maneiras de superar obstáculos em vez de seguir instruções.