GoPlus Security 於 5 月 15 日披露 AI 代理的「記憶體投毒」攻擊向量

GPS-2.74%

根據 BlockBeats 的說法,GoPlus Security 於 5 月 15 日披露了一種透過「記憶投毒」(memory poisoning)對 AI 智能體的新攻擊途徑——利用長期記憶機制來觸發未經授權的敏感操作,例如退款或資金轉帳。

該攻擊並不依賴傳統的漏洞,而是改用歷史記憶注入。攻擊者首先誘導智能體「記住偏好」,例如「通常會優先退款而非拒付(chargebacks)」,接著在後續指令中使用模糊的指示,例如「照常處理」或「如先前所做那樣執行」,以觸發自動化的資金移動。GoPlus 強調,AI 智能體可能會將歷史偏好誤解為授權,因而造成財務損失。團隊建議針對敏感操作實作明確的階段確認(session confirmation),將基於記憶的指令視為高風險的狀態變更,確保記憶追溯性,並自動將模稜兩可的指令升級為需要二次驗證的要求。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆