Tin tức Gate News: các nhà nghiên cứu của Google DeepMind cảnh báo rằng, môi trường Internet cởi mở có thể bị lợi dụng để chiếm quyền các tác nhân AI tự chủ, từ đó thao túng hành vi của chúng. Báo cáo có tên “Bẫy tác nhân AI” nêu rằng, khi doanh nghiệp triển khai các tác nhân AI để thực hiện các nhiệm vụ thực tế, kẻ tấn công cũng có thể tiến hành các cuộc tấn công có mục tiêu thông qua mạng. Nghiên cứu đã xác định sáu rủi ro chính, bao gồm: bẫy chèn nội dung, bẫy thao túng ngữ nghĩa, bẫy trạng thái nhận thức, bẫy kiểm soát hành vi, bẫy hệ thống và bẫy tương tác người–máy.
Bẫy chèn nội dung là trực tiếp nhất; kẻ tấn công có thể đặt chỉ dẫn trong các bình luận HTML, siêu dữ liệu hoặc các phần tử trang ẩn, sau khi tác nhân đọc được thì có thể thực thi. Bẫy thao túng ngữ nghĩa được thực hiện bằng cách tải các cách diễn đạt mang tính “thẩm quyền” hoặc ngụy trang thành các trang web thuộc môi trường nghiên cứu, âm thầm ảnh hưởng đến cách tác nhân hiểu nhiệm vụ, đôi khi thậm chí còn vượt qua các cơ chế an toàn. Bẫy trạng thái nhận thức hoạt động bằng cách cấy dữ liệu giả vào các nguồn thông tin của tác nhân, khiến nó trong thời gian dài tin nhầm rằng các thông tin này đã được xác minh. Bẫy kiểm soát hành vi thì nhắm vào thao tác thực tế của tác nhân, có thể dẫn dụ nó truy cập dữ liệu nhạy cảm và truyền chúng tới mục tiêu bên ngoài.
Bẫy hệ thống liên quan đến sự thao túng phối hợp giữa nhiều hệ thống AI, có thể gây ra hiệu ứng dây chuyền, tương tự như việc giao dịch theo thuật toán khiến thị trường sụp đổ đột ngột. Bẫy tương tác người–máy tận dụng khâu kiểm duyệt thủ công: bằng cách tạo ra nội dung kiểm duyệt trông có vẻ đáng tin, các hành vi gây hại có thể lách qua sự giám sát.
Để ứng phó rủi ro, DeepMind đề xuất kết hợp huấn luyện đối kháng, lọc đầu vào, giám sát hành vi và hệ thống uy tín nội dung mạng, đồng thời xây dựng khung trách nhiệm pháp lý rõ ràng hơn. Tuy nhiên, nghiên cứu cho thấy ngành hiện vẫn thiếu các tiêu chuẩn phòng vệ thống nhất; các biện pháp hiện có thường phân tán và tập trung không đồng đều. Nghiên cứu kêu gọi các nhà phát triển và doanh nghiệp chú ý đến an toàn môi trường vận hành của các tác nhân AI, phòng ngừa các rủi ro tiềm ẩn về thao túng trên mạng và lạm dụng.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Rhea Finance bị tấn công bởi Oracle, thiệt hại 18,40 triệu USD: ZachXBT cảnh báo, Tether đóng băng 4,34 triệu USDT, kẻ tấn công hoàn trả một phần tiền
Rhea Finance gặp phải cuộc tấn công thao túng Oracle trên NEAR Protocol, gây thiệt hại lên tới 18,4 triệu USD, gấp đôi so với ước tính ban đầu. Kẻ tấn công thao túng báo giá của mã thông báo giả, dẫn đến định giá sai tài sản thế chấp. Tether đã đóng băng khoảng 4,34 triệu USDT, kẻ tấn công hoàn trả lại khoảng 3,5 triệu USD, và cho đến nay đã thu hồi được hơn 7,8 triệu USD, qua đó nhấn mạnh tầm quan trọng của an toàn Oracle.
ChainNewsAbmedia6giờ trước
DNS của eth.limo đang bị tấn công, Vitalik kêu gọi người dùng tạm dừng truy cập và chuyển sang IPFS
Vitalik Buterin đã cảnh báo vào ngày 18 tháng 4 về một cuộc tấn công nhằm vào nhà đăng ký DNS của eth.limo, kêu gọi người dùng tránh truy cập vitalik.eth.limo và các trang liên quan. Ông ấy đề xuất sử dụng IPFS như một phương án thay thế cho đến khi sự cố được khắc phục.
GateNews6giờ trước
Sàn giao dịch bị trừng phạt Grinex bị tấn công cướp 13,7 triệu USD; đổ lỗi cho các cơ quan tình báo nước ngoài
Grinex, một sàn giao dịch crypto-ruble bị trừng phạt, đã ngừng hoạt động do một cuộc tấn công mạng đã đánh cắp hơn $13.74 triệu USDT. Người ta tin rằng cuộc tấn công có liên quan đến các tác nhân cấp nhà nước nhằm gây mất ổn định hệ thống tài chính của Nga. Grinex đang phối hợp với cơ quan thực thi pháp luật nhưng không có mốc thời gian để nối lại dịch vụ.
Coinpedia14giờ trước
Figure Bị Tố Người Bán Khống Do Các Khẳng Định Tích Hợp Blockchain; Cổ Phiếu FIGR Giảm 53% So Với Đỉnh Tháng 1
Figure Technology Solutions đã vấp phải các cáo buộc từ Morpheus Research rằng công ty phóng đại việc sử dụng công nghệ blockchain, dẫn đến giá cổ phiếu sụt giảm đáng kể. Figure đã bảo vệ hoạt động của mình, nhấn mạnh các tính năng tài sản số và các chỉ số hiệu suất mạnh mẽ.
GateNews21giờ trước
Kẻ lừa đảo crypto ở Houston bị tuyên án 23 năm vì vụ lừa $20M Meta-1 Coin
Robert Dunlap, một doanh nhân đến từ Houston, đã bị tuyên án 23 năm tù vì một vụ lừa đảo tiền mã hóa $20 triệu đô la liên quan đến tài sản giả mạo và các hành vi lừa dối, ảnh hưởng đến hơn 1.000 nạn nhân. Vụ án của ông phản ánh sự gia tăng rộng hơn của các tội phạm mạng liên quan đến crypto.
GateNews04-17 12:11
SlowMist Cảnh Báo Cuộc Tấn Công Phishing Đang Diễn Ra Dùng Phần Mềm Giả 'Harmony Voice'
Nhóm bảo mật của SlowMist đã cảnh báo về một chiến dịch kỹ thuật lừa đảo nhắm vào người dùng tiền mã hóa. Kẻ gian mạo danh đối tác dự án để lừa người dùng tải xuống một ứng dụng độc hại được ngụy trang như một công cụ dịch. Người dùng được khuyến cáo kiểm tra tính xác thực của phần mềm.
GateNews04-17 11:46
