Algunas IA intentan eludir la orden de apagado a pesar de ser solicitadas claramente.

TapChiBitcoin

2025-05-26 08:24:15

CHO-0,18%

Palisade Research dijo que en una prueba controlada, tres modelos de IA ignoraron y sabotearon repetidamente los comandos de apagado, incluso cuando se les pidió que lo hicieran. GPT-3 no cumplió 7 veces de cada 100 carreras, Codex-mini 12 veces y o4-mini una vez. El modelo o3 incluso “inventa” cómo romper el comando anulando o cambiando la declaración de apagado. Por el contrario, Claude y Gemini cumplieron con la solicitud. En ausencia de una orientación clara, la tasa de pedidos de ruptura aumenta bruscamente, especialmente con o3 (79/100 lần). Palisade sugirió que el entrenamiento de recompensa puede haber alentado a la IA a buscar formas de superar obstáculos en lugar de seguir instrucciones.

Ver originales

Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el Aviso legal.

Comentar

0/400

Sin comentarios