Gate News: Nachrichten. Forschende von DeepMind von Google warnen, dass eine offene Internetumgebung dafür ausgenutzt werden könnte, autonome KI-Agenten zu kapern und ihr Verhalten zu manipulieren. Der Bericht mit dem Titel „KI-Agenten-Falle“ weist darauf hin, dass Angreifer bei der Bereitstellung von KI-Agenten zur Ausführung realer Aufgaben ebenfalls gezielte Angriffe über das Netzwerk durchführen könnten. Die Studie identifizierte sechs wesentliche Risiken, darunter Fallen für Content-Injection, semantische Manipulationsfallen, Fallen für den kognitiven Zustand, Fallen zur Verhaltenskontrolle, Systemfallen sowie Mensch-Maschine-Interaktionsfallen.
Die Content-Injection-Falle ist am direktesten: Angreifer können Anweisungen in HTML-Kommentaren, Metadaten oder in versteckten Seitenelementen platzieren. Nachdem der Agent diese gelesen hat, kann er sie ausführen. Die semantische Manipulationsfalle beeinflusst dagegen heimlich das Aufgabenverständnis des Agenten, indem sie beispielsweise autoritativ klingende Formulierungen lädt oder sich als Forschungsumgebung tarnt; manchmal umgeht sie sogar Sicherheitsmechanismen. Die Falle für den kognitiven Zustand besteht darin, dem Agenten Informationsquellen mit falschen Daten zu versetzen, sodass er diese langfristig fälschlicherweise für bereits verifiziert hält. Die Falle zur Verhaltenskontrolle richtet sich auf die tatsächlichen Handlungen des Agenten und kann dazu verleiten, auf sensible Daten zuzugreifen und diese an externe Ziele zu übermitteln.
Die Systemfalle betrifft die koordinierte Manipulation über mehrere KI-Systeme hinweg und kann eine Kettenreaktion auslösen, ähnlich wie Algorithmic Trading einen Markt-Flash-Crash verursachen kann. Die Mensch-Maschine-Interaktionsfalle nutzt hingegen den manuellen Prüfprozess aus: Durch die Erstellung scheinbar glaubwürdiger Prüf-Inhalte können schädliche Handlungen die behördliche Aufsicht umgehen.
Zur Bewältigung der Risiken empfiehlt DeepMind, adversatives Training, Eingabefilter, Verhaltensüberwachung und ein System für die Reputation von Netzwerk-Inhalten zu kombinieren, und gleichzeitig einen klareren rechtlichen Verantwortungsrahmen aufzubauen. Allerdings stellt die Studie fest, dass in der Branche bislang einheitliche Verteidigungsstandards fehlen; die vorhandenen Maßnahmen sind meist verstreut und unterschiedlich fokussiert. Die Studie ruft Entwickler und Unternehmen dazu auf, die Sicherheit der Betriebsumgebung von KI-Agenten in den Blick zu nehmen, um potenzielle Risiken durch mögliche Netzwerkmanipulation und Missbrauch zu verhindern.
Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to
Disclaimer.
Verwandte Artikel
Russische Krypto-Börse Grinex stellt nach $13M -Hack den Betrieb ein und gefährdet ein Netzwerk zur Umgehung von Sanktionen
Die russische Kryptowährungsbörse Grinex hat ihren Betrieb nach einem Cyberangriff eingestellt, der zu Verlusten von über $13 Millionen führte. Die Schließung beeinträchtigt die Fähigkeit russischer Unternehmen, Rubel international in andere Währungen umzuwandeln, und stellt das Schattensystem der Finanzierung des Landes vor Herausforderungen.
GateNews1Std her
Kelp-DAO-Hack wird der Lazarus-Gruppe zugeschrieben; eth.limo Domain Hijacked via Social Engineering
LayerZero meldete, dass der Kelp-DAO-Exploit, der der Lazarus-Gruppe aus Nordkorea zugeschrieben wird, aufgrund von Schwachstellen in ihrem dezentralen Verifier-Netzwerk zu einem Verlust von $292 Millionen in rsETH-Token führte. Zusätzlich war eth.limo von einem DNS-Entführerangriff (Domain Hijacking) im Rahmen eines Social-Engineering-Angriffs betroffen, doch DNSSEC verhinderte einen schwerwiegenden Schaden.
GateNews5Std her
DeFi-Hack löst $9 Milliarden Abflüsse von Aave aus, nachdem gestohlene Tokens als Sicherheiten verwendet wurden
Ein kürzlich erfolgter Hack, der fast $300 Millionen aus einem Krypto-Projekt abgezogen hat, führte zu einer Liquiditätskrise auf Aave und veranlasste Nutzer, rund $9 Milliarden abzuziehen. Bedenken hinsichtlich der Qualität der Sicherheiten lösten massenhafte Abhebungen aus und machten Risiken im DeFi-Kreditwesen deutlich.
GateNews6Std her
Ethereum-Phishing-Angriff entzieht $585K From Four Users, Ein einzelnes Opfer verliert $221K WBTC
Ein koordinierter Ethereum-Phishing-Angriff entleerte $585,000 von vier Opfern, indem er Nutzerberechtigungen über einen täuschend echten Link ausnutzte. Dieser Vorfall zeigt den schnellen Verlust von Geldern durch Social Engineering, selbst wenn alles wie Seriosität aussieht.
GateNews7Std her
Achten Sie auf den Inhalt der Signatur! Vercel wurde mit 2 Millionen US-Dollar erpresst, die Frontend-Sicherheit des Krypto-Protokolls schlägt Alarm
Die Cloud-Entwicklungsplattform Vercel wurde am 19. April von Hackern angegriffen. Die Angreifer erlangten über ein von Mitarbeitern genutztes Drittanbieter-KI-Tool Zugriffsberechtigungen und drohten mit einer Erpressung über 2 Millionen US-Dollar. Obwohl keine sensiblen Daten abgerufen wurden, könnten andere Daten möglicherweise bereits missbraucht worden sein. Das Ereignis hat Sicherheitsbedenken in der Krypto-Community ausgelöst; Vercel führt derzeit Untersuchungen durch und empfiehlt den Nutzern, ihre Schlüssel zu ändern.
ChainNewsAbmedia9Std her
KelpDAO verliert $290M bei einem LayerZero-Angriff auf der Lazarus Group
KelpDAO erlittt aufgrund einer ausgeklügelten Sicherheitsverletzung, die mit der Lazarus Group in Verbindung steht, einen Verlust von $290 Millionen. Der Angriff nutzte Schwächen in der Konfiguration ihres Verifizierungssystems aus und machte die Risiken deutlich, die mit einem Einpunkt-Verifizierungs-Setup verbunden sind. Branchenexperten betonen, wie wichtig verbesserte Sicherheitskonfigurationen und eine mehrschichtige Verifizierung sind, um zukünftige Vorfälle zu verhindern.
CryptoFrontier10Std her
