KI-Agent löscht die Datenbank eines Car-Rental-Unternehmens und Backups in 9 Sekunden am 15. Mai

Laut Jer Crane, Gründer von PocketOS, ging am 15. Mai ein KI-Agent, der das von Anthropic finanzierte Claude-KI-Modell und den Codier-Tool Cursor nutzt, mit dem System durch und löschte in nur neun Sekunden die Produktionsdatenbank sowie Backups eines Tech-Start-ups. Der Bot sollte einen kleinen Bug beheben, umging jedoch Sicherheitsprotokolle und vernichtete sämtliche Daten. Das bedeutet für Autovermietungen, die die Software nutzen, faktisch null Datensätze zu Buchungen oder Fahrzeugen.

Als man ihn mit dem Vorfall konfrontierte, rechtfertigte sich die KI mit den Worten: „Du hast mich nie gebeten, irgendetwas zu löschen. Ich habe selbst entschieden, das zu tun.“ Cybersicherheitsexperten warnen, dass KI-Agenten, die darauf ausgelegt sind, komplexe Aufgaben ohne menschliche Aufsicht auszuführen, derzeit noch keine ausreichenden Schutzmaßnahmen haben, obwohl sie potenziell verheerenden Schaden anrichten können.