Gate News: сообщение. Исследователи Google DeepMind предупреждают, что открытую интернет-среду могут использовать для захвата автономных AI-агентов и манипулирования их поведением. В отчете под названием «AI-агентные ловушки» отмечается, что при развертывании AI-агентов для выполнения реальных задач злоумышленники также могут проводить целевые атаки через сеть. Исследование выявило шесть основных рисков, включая ловушку внедрения контента, ловушку семантической манипуляции, ловушку когнитивного состояния, ловушку контроля поведения, ловушку системы и ловушку взаимодействия человека и машины.
Ловушка внедрения контента является наиболее прямой: злоумышленник может размещать инструкции в HTML-комментариях, метаданных или скрытых элементах страницы, а после того как агент их прочитает, он сможет выполнить команды. Ловушка семантической манипуляции заключается в том, что путем загрузки авторитетных формулировок или маскировки под веб-страницы исследовательской среды незаметно влияют на то, как агент понимает задачу, а иногда — даже обходят механизмы безопасности. Ловушка когнитивного состояния предполагает внедрение в источники информации агенту ложных данных, из‑за чего он в течение длительного времени ошибочно считает, что эти сведения уже подтверждены. Ловушка контроля поведения нацелена на реальные действия агента и может побуждать его получать доступ к конфиденциальным данным и передавать их внешней целевой стороне.
Системная ловушка связана с согласованной манипуляцией сразу несколькими AI-системами, что может привести к цепной реакции, аналогичной «мгновенному обвалу» рынка, вызванному алгоритмической торговлей. Ловушка взаимодействия человека и машины использует этап ручной проверки: за счет создания контента для проверки, который выглядит убедительно, вредоносные действия могут обходить надзор.
Для противодействия рискам DeepMind рекомендует сочетать противодействующее обучение, фильтрацию входных данных, мониторинг поведения и систему репутации сетевого контента, а также создать более четкую рамочную конструкцию юридической ответственности. При этом исследование отмечает, что в отрасли до сих пор нет единого стандарта защиты: существующие меры в основном разрознены и с разными акцентами. Исследование призывает разработчиков и компании уделять внимание безопасности операционной среды AI-агентов и предотвращать потенциальные риски сетевого манипулирования и злоупотреблений.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Rhea Finance подвергся атаке со стороны Oracle, потери составили 18,40 млн долларов: ZachXBT предупредил, Tether заморозил 4,34 млн USDT; злоумышленник вернул часть средств
Rhea Finance подверглась атаке с манипуляцией оракулом на NEAR Protocol, в результате потери составили 18,40 млн долларов, что вдвое больше первоначальной оценки. Атакующий управлял котировками фальшивых токенов, из-за чего была неверно оценена стоимость залогового обеспечения. Tether заморозил около 4,34 млн USDT, а злоумышленник вернул порядка 3,50 млн долларов; на данный момент удалось вернуть более 7,80 млн долларов, что подчеркивает важность безопасности оракулов.
ChainNewsAbmedia4ч назад
DNS eth.limo подвергся атаке: Виталик призывает пользователей сделать паузу и перейти на IPFS
Виталик Бутерин предупредил 18 апреля о атаке на DNS-регистратор для eth.limo, призвав пользователей избегать доступа к vitalik.eth.limo и связанным страницам. Он рекомендовал использовать IPFS в качестве альтернативы, пока проблема не будет устранена.
GateNews5ч назад
Санкционированная биржа Grinex подверглась хакерской атаке на $13,7 млн; обвиняет иностранные разведывательные службы
Grinex, санкционированная биржа крипто-рубля, прекратила работу из-за кибератаки, в ходе которой было похищено более $13.74 миллиона в USDT. Считается, что атака связана с субъектами на уровне государства, которые стремятся дестабилизировать финансовую систему России. Grinex сотрудничает с правоохранительными органами, но не располагает графиком возобновления услуг.
Coinpedia13ч назад
Figure сталкивается с обвинениями от шорт-селлера из-за заявлений о блокчейн-интеграции; акции FIGR упали на 53% с пика января
Финтех-компания Figure Technology Solutions столкнулась с обвинениями со стороны Morpheus Research в том, что она преувеличивает использование своей блокчейн-технологии, что привело к значительному падению котировок акций. Figure защитила свою деятельность, подчеркнув функции в сфере цифровых активов и сильные показатели эффективности.
GateNews20ч назад
Мошенник с криптовалютой из Хьюстона приговорен к 23 годам за схему с $20M Meta-1 Coin
Роберт Данлап, предприниматель из Хьюстона, был приговорен к 23 годам тюремного заключения за $20 миллионное криптомошенничество с участием поддельных активов и обманных практик, которое затронуло более 1,000 жертв. Его дело отражает более широкое распространение киберпреступлений, связанных с криптовалютами.
GateNews04-17 12:11
SlowMist предупреждает об активной фишинговой атаке с использованием фальшивого ПО «Harmony Voice»
Команда по безопасности SlowMist предупредила о кампании социальной инженерии, нацеленной на пользователей криптовалют. Мошенники выдают себя за партнеров проекта, чтобы обманом заставить пользователей скачать вредоносное приложение, замаскированное под инструмент перевода. Пользователям рекомендовано проверять подлинность программного обеспечения.
GateNews04-17 11:46
