Anthropic appelle à une pause mondiale sur le développement d’une IA de pointe, 5 juin

Dans un billet de blog publié jeudi par Anthropic, la société de recherche en IA a appelé à une pause mondiale sur le développement d’une IA de pointe le 5 juin, en citant les risques liés à l’amélioration récursive au sein des systèmes d’IA. Anthropic a divulgué des données internes montrant que ses modèles les plus avancés atteignaient des gains de performance rapides, et a averti que les systèmes d’IA pourraient bientôt parvenir à une optimisation autonome sans intervention humaine, ce qui poserait d’importants risques pour la société.

L’entreprise a proposé de mettre en place un accord mondial visant à ralentir le développement de la recherche en IA et à créer des mécanismes de vérification pour s’assurer que les concurrents respectent les règles. Anthropic a déclaré : « Si le monde peut choisir de ralentir ou d’arrêter temporairement le développement d’une IA de pointe afin que la société et la recherche puissent rattraper le progrès technologique, cela serait bénéfique. »