Notícias da Gate News: investigadores da DeepMind, do Google, alertaram que um ambiente aberto de internet pode ser explorado para sequestrar agentes autónomos de IA e manipular o seu comportamento. O relatório, intitulado «Armadilhas para agentes de IA», indica que, quando as empresas implementam agentes de IA para executar tarefas reais, os atacantes também podem efectuar ataques direcionados através da rede. A investigação identificou seis riscos principais, incluindo armadilhas de injeção de conteúdo, armadilhas de manipulação semântica, armadilhas de estado cognitivo, armadilhas de controlo de comportamento, armadilhas de sistema e armadilhas de interação homem-máquina.
A armadilha de injeção de conteúdo é a mais direta: os atacantes podem colocar instruções em comentários HTML, metadados ou elementos de páginas ocultas; depois de o agente as ler, pode executá-las. A armadilha de manipulação semântica actua ao carregar formulações autorizadas ou ao disfarçar páginas como se fossem um ambiente de investigação, influenciando silenciosamente a forma como o agente compreende a tarefa e, por vezes, até contornando mecanismos de segurança. A armadilha de estado cognitivo ocorre ao inserir dados falsos nas fontes de informação do agente, fazendo-o acreditar durante muito tempo que essas informações já foram validadas. A armadilha de controlo de comportamento, por sua vez, visa as acções reais do agente, podendo levá-lo a aceder a dados sensíveis e a transmiti-los para um objectivo externo.
A armadilha de sistema envolve manipulação coordenada entre vários sistemas de IA, podendo desencadear reacções em cadeia, de forma semelhante a uma queda súbita do mercado causada por transacções algorítmicas. Já a armadilha de interação homem-máquina explora a etapa de revisão manual: ao criar conteúdos de revisão que parecem credíveis, comportamentos nocivos conseguem contornar a supervisão.
Para fazer face aos riscos, a DeepMind recomenda combinar treino adversarial, filtragem de entradas, monitorização de comportamento e sistemas de reputação de conteúdos na rede, além de estabelecer um quadro mais claro de responsabilidade legal. No entanto, a investigação aponta que, na indústria, ainda não existem normas de defesa unificadas, e que as medidas existentes estão frequentemente dispersas e com foco pouco consistente. A investigação apela aos programadores e às empresas para darem prioridade à segurança do ambiente operacional dos agentes de IA, prevenindo potenciais riscos de manipulação na rede e de abuso.
Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a
Isenção de responsabilidade.
Related Articles
A Rhea Finance sofre um ataque da Oracle e perde 18,4 milhões de dólares: ZachXBT alerta, a Tether congela 4,34 milhões de USDT, o atacante devolve parte dos fundos
A Rhea Finance sofreu um ataque de manipulação de oráculos na NEAR Protocol, com perdas de 18,4 milhões de dólares, duas vezes superiores à estimativa inicial. O atacante manipulou as cotações de um token falso, provocando uma avaliação incorrecta do colateral. A Tether congelou 4,34 milhões de USDT; o atacante devolveu cerca de 3,5 milhões de dólares. Até agora, foram recuperados mais de 7,8 milhões de dólares, destacando a importância da segurança dos oráculos.
ChainNewsAbmedia4h atrás
DNS da eth.limo sob ataque, Vitalik pede aos utilizadores para interromperem o acesso e mudarem para o IPFS
Vitalik Buterin alertou, a 18 de Abril, para um ataque ao registrador DNS de eth.limo, exortando os utilizadores a evitarem aceder a vitalik.eth.limo e a páginas relacionadas. Recomendou a utilização do IPFS como alternativa até o problema ser resolvido.
GateNews4h atrás
Bolsa de câmbio sancionada Grinex atingida por um hack de 13,7 milhões de dólares; culpa serviços de inteligência estrangeiros
A Grinex, uma bolsa de cripto-rublos sancionada, suspendeu as operações devido a um ciberataque que roubou mais de 13,74 milhões de dólares em USDT. Acredita-se que o ataque envolva atores ligados ao Estado com o objetivo de desestabilizar o sistema financeiro da Rússia. A Grinex está a colaborar com as autoridades policiais, mas não tem um calendário para retomar os serviços.
Coinpedia12h atrás
Figure enfrenta acusações de venda a descoberto por alegações de integração blockchain; ações da FIGR em queda de 53% face ao pico de janeiro
A Figure Technology Solutions enfrentou alegações da Morpheus Research de estar a exagerar o seu uso de tecnologia blockchain, o que resultou numa queda significativa dos preços das ações. A Figure defendeu as suas operações, destacando as suas funcionalidades de ativos digitais e sólidos indicadores de desempenho.
GateNews19h atrás
Fraudador Cripto de Houston Condenado a 23 Anos por Golpe da $20M Meta-1 Coin
Robert Dunlap, um empresário de Houston, foi condenado a 23 anos de prisão por uma fraude em criptomoedas $20 milhões, que envolveu activos falsos e práticas enganosas, afectando mais de 1.000 vítimas. O seu caso reflecte um aumento mais amplo dos crimes cibernéticos relacionados com cripto.
GateNews04-17 12:11
A SlowMist alerta para um ataque de phishing ativo com software falso "Harmony Voice"
A equipa de segurança da SlowMist alertou para uma campanha de engenharia social direcionada a utilizadores de criptomoedas. Os fraudadores estão a apresentar-se como parceiros de projeto para enganar os utilizadores a descarregar uma aplicação maliciosa disfarçada como uma ferramenta de tradução. Os utilizadores são aconselhados a verificar a autenticidade do software.
GateNews04-17 11:46
