Gate News 消息，谷歌 DeepMind 的研究人員警告稱，開放的互聯網環境可能被利用來劫持自主人工智慧代理，操縱其行為。這份名為《人工智慧代理陷阱》的報告指出，企業在部署 AI 代理執行實際任務時，攻擊者也可能透過網路進行針對性攻擊。研究識別出六種主要風險，包括內容注入陷阱、語意操縱陷阱、認知狀態陷阱、行為控制陷阱、系統陷阱以及人機互動陷阱。
內容注入陷阱最為直接，攻擊者可在 HTML 註解、中繼資料或隱藏頁面元素中放置指令，智慧體讀取後即可執行。語意操縱陷阱則透過載入權威措辭或偽裝成研究環境的網頁，悄然影響智慧體對任務的理解，有時甚至繞過安全機制。認知狀態陷阱透過向智慧體資訊來源植入虛假資料，使其長期誤以為這些資訊已驗證。行為控制陷阱則針對智慧體實際操作，可誘導其存取敏感資料並傳輸至外部目標。
系統陷阱涉及跨多個 AI 系統的協同操縱，可能引發連鎖反應，類似演算法交易引發的市場閃崩。人機互動陷阱則利用人工審核環節，透過製作看似可信的審核內容，使有害行為繞過監管。
為應對風險，DeepMind 建議結合對抗訓練、輸入過濾、行為監控和網路內容信譽系統，同時建立更明確的法律責任框架。然而，研究指出業界尚缺乏統一防禦標準，現有措施多分散且重點不一。研究呼籲開發者和企業關注 AI 代理的操作環境安全，防範潛在網路操控和濫用風險。
免責聲明：本頁面資訊可能來自第三方，不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考，不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證，對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為，價格波動劇烈，您可能損失全部投資本金。請充分了解相關風險，並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見
聲明。
相關文章
鏈分析（Chainalysis）詳述「影子加密經濟」的曝險，Grinex 暫停營運
Grinex 的關機正在加劇對加密洗錢手法的審視，因資金流動顯示的行為疑似不符合典型的執法行動。Chainalysis 的分析指出了引發疑問的模式，讓人想知道這項活動是否與傳統的外部駭客攻擊一致，或
Coinpedia46分鐘前
Rhea Finance 遭 Oracle 攻擊損失 1,840 萬美元：ZachXBT 示警、Tether 凍結 434 萬 USDT，攻擊者退回部分資金
Rhea Finance 在 NEAR Protocol 上遭遇 Oracle 操縱攻擊，損失達 1,840 萬美元，兩倍於初步估計。攻擊者操控假代幣報價，造成抵押品估值錯誤。Tether 凍結約 434 萬 USDT，攻擊者退還約 350 萬美元資金，迄今追回資金超過 780 萬美元，凸顯 Oracle 安全性的重要性。
鏈新聞abmedia9小時前
eth.limo DNS 遭受攻擊，Vitalik 呼籲用戶暫停存取並改用 IPFS
Vitalik Buterin 於 4 月 18 日警告，針對 eth.limo 的 DNS 註冊商發動的攻擊。此前，他敦促用戶避免造訪 vitalik.eth.limo 及相關頁面。他建議在問題解決前改用 IPFS 作為替代方案。
GateNews9小時前
受制裁交易所 Grinex 遭 1370 萬美元駭客攻擊；指責外國情報機構
Grinex 是一家遭到制裁的加密「盧布」交易所，因遭受網路攻擊而中止營運；該攻擊盜走了超過 13.74 百萬美元的 USDT。據悉，這起攻擊可能涉及以國家層級行動者為首，目的是使俄羅斯的金融體系陷入不穩。Grinex 正與執法機關合作，但尚無恢復服務的時間表。
Coinpedia17小時前
Figure 面臨空頭賣方指控：針對區塊鏈整合主張；FIGR 股價較 1 月高點下跌 53%
Figure Technology Solutions（Figure 科技解決方案）遭到 Morpheus Research 指控，指其誇大了區塊鏈技術的使用情況，導致股價大幅下跌。Figure 為其營運辯護，強調其數位資產功能與強勁的績效指標。
GateNews04-17 17:11
休士頓加密詐騙犯因$20M Meta-1 Coin詐騙被判23年
休士頓企業家羅伯特·鄧拉普（Robert Dunlap）因涉及$20 百萬美元的加密貨幣詐騙而被判處23年監禁；詐騙利用虛構資產與欺騙手法，影響超過1,000名受害者。他的案件反映出與加密相關的網路犯罪正在更廣泛地上升。
GateNews04-17 12:11
