KI-Agentensicherheit braucht eine systemweite Verteidigung: Google, Meta warnen

Sicherheitsforscher von Google und Meta warnen, dass autonome KI-Agenten systemweite Abwehrarchitekturen benötigen, um aufkommende Sicherheitsrisiken zu adressieren. Die Experten warnen, dass herkömmliche Cybersicherheitstools allein nicht ausreichen, um Bedrohungen abzuwehren, die durch KI-Agenten entstehen, die in der Lage sind, Gedächtnis zu speichern, externe Tools aufzurufen, mit anderen Agenten zu kooperieren und kontinuierlich ohne direkte menschliche Aufsicht zu arbeiten. Die Sorge rührt daher, dass Unternehmen KI-Agenten in rasantem Tempo in Arbeitsabläufe einführen – darunter Zahlungen, Kundenservice, Programmierung, Cybersicherheit und Finanzoperationen. Anders als frühere Chatbot-ähnliche Systeme bringt agentische KI persistente Speichersysteme, Tool-Ausführung und autonome Workflows mit sich, die neue Angriffsflächen schaffen. Sicherheitsausfälle in solchen vernetzten Systemen bleiben selten isoliert – kompromittierte Anweisungen oder bösartige Eingaben können sich über mehrere Schichten ausbreiten, bevor sie nach außen sichtbar werden.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

Google und Meta erweitern agentische KI-Ökosysteme

Google hat kürzlich Gemini Spark vorgestellt, einen immer aktiven KI-Assistenten, der in der Lage ist, über Workspace-Apps, Cloud-Systeme und Plattformen Dritter zu interagieren. Das Unternehmen integriert KI-Agenten tiefer in Chrome, Gmail, Search und Android-Systeme.

Meta bereitet agentische KI-Assistenten vor, die personalisierte Aufgaben über seine Social- und Messaging-Plattformen hinweg ausführen können. Sicherheitsexperten warnen, dass zunehmend autonome Systeme mehr Möglichkeiten für Sicherheitslücken und bösartige Angriffe schaffen – über diese miteinander verbundenen Ökosysteme hinweg.