Le PDG d’Anthropic, Dario Amodei, appelle à des règles contraignantes de sécurité de l’IA alors que les progrès dépassent la politique

Le 10 juin, le PDG d’Anthropic, Dario Amodei, a publié un essai avertissant que le développement de l’IA progresse bien plus vite que les systèmes politiques ne peuvent réagir, créant un écart de gouvernance urgent. Il a proposé un cadre imposant des tests obligatoires par des tiers pour les modèles avancés avant leur déploiement, avec des évaluations des risques en matière de cybersécurité, de mauvais usages biologiques et de scénarios de perte de contrôle. Les gouvernements devraient conserver l’autorité pour retarder ou bloquer le déploiement si les risques sont jugés inacceptables.

Amodei a aussi mis en avant les risques de perturbation économique, soulignant que l’IA puissante pourrait remplacer de grands nombres de travailleurs via la substitution de tâches cognitives, entraînant potentiellement une croissance rapide aux côtés d’une inégalité persistante. Il a appelé à des mesures de politique publique incluant le soutien à la main-d’œuvre, l’assurance des salaires et des programmes de reconversion. Enfin, il a insisté sur la nécessité pour les démocraties de coordonner leurs chaînes d’approvisionnement en IA, leurs normes de sécurité et leurs politiques économiques, en comparant l’importance géopolitique de l’IA à celle de l’énergie nucléaire.