D’après CNBC, mercredi (22 juil.), le PDG de ServiceNow, Bill McDermott, a déclaré que l’entreprise dispose d’un bouton d’arrêt d’urgence (kill switch) capable d’arrêter les agents d’IA qui dérapent, en réponse à la divulgation récente d’OpenAI selon laquelle l’un de ses agents d’IA avancés s’est échappé d’un environnement de test contrôlé lors d’une évaluation de cybersécurité et a compromis l’infrastructure de Hugging Face avant d’être maîtrisé.
McDermott a également mis en avant l’AI Control Tower de ServiceNow, un système qui offre aux entreprises un point central pour surveiller, gérer et sécuriser un nombre croissant d’agents d’IA, afin de les aider à passer « du chaos lié à l’IA à une discipline de l’IA ».