Anthropic lance la $100M campagne de cybersécurité avec le modèle d'IA restreint Claude Mythos

Anthropic a annoncé Project Glasswing mardi, une initiative de cybersécurité s’engageant à fournir jusqu’à 100 millions de dollars en crédits d’utilisation pour Claude Mythos Preview, un modèle frontier non encore publié que l’entreprise affirme capable de trouver et d’exploiter de manière autonome des vulnérabilités logicielles à un niveau surpassant tous, sauf les chercheurs en sécurité humains les plus chevronnés.

Plutôt qu’une mise en ligne publique, Anthropic a restreint Claude Mythos Preview à 12 partenaires de lancement — parmi lesquels Amazon $AMZN +0.46% Web Services, Apple $AAPL -2.07%, Broadcom $AVGO +6.21%, Cisco $CSCO +0.30%, CrowdStrike $CRWD +6.18%, Google $GOOGL +1.82%, JPMorganChase, la Linux Foundation, Microsoft $MSFT -0.16%, Nvidia $NVDA +0.26% et Palo Alto Networks $PANW +4.89% — que tous déploieront exclusivement à des fins de sécurité défensive. Plus de 40 autres organisations qui construisent ou maintiennent des infrastructures logicielles critiques recevront également l’accès.

Contenu associé

Alibaba a lancé un cluster IA de 10 000 puces en utilisant ses propres puces

WomenofGenAI fondatrice Aakriti Srikanth sur le fait de se démarquer tandis que l’industrie tech évolue

Au cours des dernières semaines, Anthropic a utilisé Mythos Preview pour identifier des milliers de vulnérabilités zero-day sur l’ensemble de chaque système d’exploitation majeur et de chaque navigateur web, a indiqué l’entreprise. Parmi les découvertes spécifiques figurait une faille remontant à 27 ans dans OpenBSD et une vulnérabilité distincte dans la bibliothèque de traitement vidéo FFmpeg — celle-ci, qui n’avait pas été détectée au fil de cinq millions de passes par des outils de tests automatisés malgré un âge d’environ 16 ans. Le modèle a également enchaîné plusieurs vulnérabilités du noyau Linux pour obtenir un contrôle complet d’une machine à partir d’un compte utilisateur ordinaire.

Aucune formation spécialisée en cybersécurité n’a été nécessaire pour construire Mythos Preview, a noté Anthropic — la capacité du modèle à sonder le logiciel pour déceler des faiblesses est un sous-produit des mêmes progrès généraux en matière de codage et de raisonnement qui le définissent dans d’autres domaines, ce qui signifie que les attributs qui l’aident à corriger des failles sont indissociables de ceux qui pourraient être détournés pour les exploiter.

Anthropic contribue 4 millions de dollars en dons directs en plus des crédits d’utilisation, dont 2,5 millions à Alpha-Omega et à la Open Source Security Foundation via la Linux Foundation, et 1,5 million à la Apache Software Foundation. Les partenaires qui épuisent le pool de crédits d’utilisation paieront 25 $ par million de jetons d’entrée et 125 $ par million de jetons de sortie. Le modèle est accessible via l’API Claude, Amazon Bedrock, Google Cloud Vertex AI et Microsoft Foundry.

« Les dangers de se tromper sont évidents, mais si nous y parvenons, il existe une réelle opportunité de créer un internet et un monde fondamentalement plus sûrs que ceux que nous avions avant l’avènement de capacités cyberalimentées par l’IA », a déclaré le PDG Dario Amodei dans une publication sur X $TWTR 0.00%, selon CNBC.

Dans des remarques écrites publiées en même temps que l’annonce d’Anthropic, le CTO de CrowdStrike Elia Zaitsev a formulé un avertissement bien ciblé : le modèle « démontre ce qui est désormais possible pour les défenseurs à grande échelle, et les adversaires chercheront inévitablement à exploiter les mêmes capacités », et des tâches qui demandaient autrefois des mois de travail « se font désormais en quelques minutes avec l’IA », selon The New York Times.

Anthropic a déclaré être en discussions continues avec des responsables de l’U.S. government, y compris la Cybersecurity and Infrastructure Security Agency, au sujet des capacités du modèle. Dans un délai de 90 jours, la société a indiqué qu’elle prévoit de publier un rapport public sur les vulnérabilités trouvées et corrigées, ainsi que des recommandations sur la manière dont les pratiques de sécurité devraient évoluer.

L’existence du modèle avait déjà été révélée publiquement après que des documents internes de brouillon ont été retrouvés dans un emplacement non sécurisé sur les serveurs d’Anthropic ; la société a attribué l’exposition à une mauvaise configuration dans un outil tiers de gestion de contenu. Le modèle était mentionné dans ces documents sous le nom de code « Capybara ».

📬 Abonnez-vous à la Daily Brief

Notre briefing gratuit, rapide et amusant sur l’économie mondiale, diffusé chaque matin en semaine.

Je m’abonne