Le directeur de Google DeepMind, Demis Hassabis, a publié en juillet sur son Substack personnel une déclaration-cadre, défendant la création d’un organisme international de supervision indépendant des gouvernements et des entreprises. Il s’inspirerait du modèle de la Financial Industry Regulatory Authority (FINRA) et exigerait que tous les modèles d’IA atteignant un niveau de performance de pointe fassent l’objet, avant leur mise sur le marché, d’un examen obligatoire pouvant aller jusqu’à 30 jours.
Le cœur de la conception de la déclaration de Hassabis
Hassabis choisit la Financial Industry Regulatory Authority (FINRA) comme cadre de référence : un organisme d’autorégulation financé par le secteur, fonctionnant de manière indépendante et soumis à la surveillance de la Securities and Exchange Commission (SEC) des États-Unis. Il est chargé de vérifier la conformité des institutions financières et dispose de pouvoirs d’exécution, y compris la capacité de prononcer des sanctions et des suspensions. Il souhaite appliquer la même logique à la supervision de l’IA : financée par l’industrie, mais avec des décisions confiées à des personnes indépendantes, non rattachées à une quelconque entreprise.
Les principales spécifications de cet organisme de supervision sont les suivantes :
Composition du conseil : la majorité des sièges est réservée à des experts techniques indépendants, au niveau des lauréats du prix Turing, et des sièges sont aussi attribués à des représentants de l’industrie, du gouvernement et de la communauté open source
Source de financement : entièrement fournie par les meilleurs laboratoires d’IA rentables
Périmètre d’examen : tous les modèles atteignant le niveau de performance de pointe, qu’ils soient open source ou fermés, quelle que soit la localisation du siège social des entreprises
Durée de l’examen : jusqu’à 30 jours ; le niveau de performance lui-même sera mis à jour régulièrement en fonction des capacités des modèles
Mécanisme d’ajustement : la rigueur peut être augmentée selon la gravité de la situation ; dans le cas le plus extrême, un accord pourrait être coordonné entre de grands laboratoires afin de ralentir ensemble la vitesse de développement
Calendrier visé : Hassabis espère que l’organisme puisse commencer à fonctionner au plus vite d’ici la fin de 2026
Le déclencheur de la publication anticipée de la proposition
Hassabis a mis au point ce cadre depuis plusieurs mois, mais la véritable raison pour laquelle il l’a rendu public plus tôt tient au modèle Mythos de l’Anthropic, publié en édition limitée en avril 2026. Après son lancement, le modèle a montré des capacités de défense et d’attaque en cybersécurité largement supérieures aux attentes, suscitant dans l’industrie et dans les milieux politiques des inquiétudes concernant une « nouvelle ère du crime informatique piloté par l’IA ». Hassabis l’a directement qualifié de « signal d’alerte », affirmant qu’il n’était plus possible d’attendre que les autorités de supervision avancent à leur rythme.
Dans une interview, Hassabis a également évoqué des risques de biosécurité à plus long terme : le fait que des modèles d’IA soient utilisés pour aider à concevoir des agents pathogènes ou des armes biologiques/chimiques, causant des dommages à la santé publique. Il a déclaré : « À l’heure actuelle, les modèles ne sont pas encore assez puissants pour atteindre ce niveau, mais si l’on extrapole à partir des progrès actuels, on pourrait voir apparaître cela dans quelques années. »
Parallèlement, Anthropic et OpenAI ont toutes deux déjà repoussé des annonces de produits à grande échelle les plus récentes sous la pression du gouvernement de Trump, ce qui a conduit à des négociations entre l’Union européenne et le gouvernement américain au sujet des droits d’accès aux modèles. Plusieurs dirigeants de sociétés d’IA se sont également réunis avec des dirigeants de différents pays pendant le sommet du G7 à Biarritz, en France, pour en discuter.
Les prises de position d’Altman, Musk et Amodei
Avant la publication publique du cadre, Hassabis avait déjà montré le projet, en privé, à presque tous les principaux laboratoires d’IA, y compris Dario Amodei, le PDG d’Anthropic. Après la publication publique, le PDG d’OpenAI, Sam Altman, a qualifié cette idée de « très aboutie ». Même Elon Musk, qui est généralement opposé à la position d’Altman, a déclaré que c’était « un très bon point de départ pour lancer une discussion ». Les deux hommes se sont rarement retrouvés du même côté.
Plus tôt, Amodei avait suggéré que les États-Unis créent une entité spécialisée similaire à l’Agence fédérale de l’aviation (FAA) pour superviser l’IA. Altman avait également proposé une initiative internationale de supervision analogue. Dans une interview accordée à Bloomberg, Hassabis a déclaré : « Je pense que c’est très compatible avec les idées que Dario et Sam formulent depuis toujours. Il nous faut simplement un plan concret, plutôt qu’une notion abstraite. »
Les défis pour une mise en œuvre : vide législatif américain, posture hésitante du gouvernement de Trump et divergence des trajectoires de supervision entre trois parties
Un dirigeant de l’industrie de l’IA, qui a souhaité rester anonyme, a indiqué que le simple fait d’avoir un consensus au sein du secteur ne suffit pas : le vrai problème se situe au niveau politique. Le Congrès américain n’a, à ce jour, adopté aucune législation fédérale sur l’IA ayant un réel contenu. L’attitude du gouvernement de Trump envers l’IA oscille entre le laisser-faire et l’intervention. Les trajectoires de supervision entre les États-Unis, l’Union européenne et la Chine divergent aussi souvent, chacune suivant sa propre voie.
Hassabis prévoit de se rendre la semaine prochaine à Washington pour discuter directement avec des décideurs politiques américains. Il a déclaré être optimiste sur le fait que l’élan actuel pourrait être suffisant pour faire avancer l’affaire jusqu’au bout, mais il a aussi conscience de ceci : « La suite, ce n’est pas seulement publier un article de blog : il faut trouver un moyen de le concrétiser réellement. »
FAQ
En quoi l’organisme international de supervision de l’IA proposé par Hassabis est-il similaire à la FINRA ?
La FINRA est un organisme d’autorégulation financé par des acteurs du secteur des valeurs mobilières aux États-Unis, fonctionnant de manière indépendante et soumis à la supervision de la SEC. Il est chargé de vérifier la conformité des institutions financières et dispose de pouvoirs d’exécution. La proposition de Hassabis reprend la même logique : financée par des laboratoires d’IA rentables, pilotée par des experts techniques indépendants, non rattachée à un gouvernement ou à une entreprise, et imposant un examen obligatoire avant la publication des modèles d’IA de niveau de performance de pointe.
Pourquoi le modèle Mythos d’Anthropic est-il considéré comme le déclencheur de la proposition ?
Après la mise en service du modèle Mythos d’Anthropic en avril 2026, ce modèle a démontré des capacités de cybersécurité en attaque et en défense bien supérieures aux attentes, suscitant des inquiétudes dans l’industrie et les milieux politiques à propos d’une « criminalité informatique pilotée par l’IA ». Hassabis l’a qualifié de « signal d’alerte », indiquant que cet événement l’a conduit à rendre public plus tôt le cadre de supervision qu’il préparait depuis plusieurs mois, plutôt que d’attendre encore.
Quand cet organisme international de supervision de l’IA pourrait-il commencer à fonctionner ?
Hassabis indique qu’il souhaite que l’organisme commence à fonctionner au plus vite avant la fin de 2026, mais que ce calendrier se heurte à d’importants obstacles politiques : le Congrès américain n’a jusqu’ici adopté aucune législation fédérale sur l’IA, la position du gouvernement de Trump est instable, et il existe aussi des divergences entre les trajectoires de supervision des États-Unis, de l’Union européenne et de la Chine. Le voyage à Washington de Hassabis la semaine prochaine constituera une prochaine étape de progrès concret, selon une communication officielle.
