Anthropic pide una pausa global en el desarrollo de la IA de vanguardia, 5 de junio

En la publicación del blog del jueves de Anthropic, la empresa de investigación de IA pidió una pausa global en el desarrollo de IA de vanguardia el 5 de junio, citando riesgos derivados de la mejora recursiva por parte de los sistemas de IA. Anthropic reveló datos internos que muestran que sus modelos más avanzados logran ganancias de rendimiento rápidas, y advirtió que los sistemas de IA podrían pronto alcanzar una optimización autónoma sin intervención humana, lo que plantea importantes riesgos sociales.

La empresa propuso establecer un acuerdo global para ralentizar el desarrollo de la investigación en IA y crear mecanismos de verificación para asegurar que los competidores cumplan. Anthropic afirmó: "Si el mundo puede optar por frenar o detener temporalmente el desarrollo de IA de vanguardia para que la sociedad y la investigación puedan ponerse al día con el progreso tecnológico, esto sería beneficioso".