Investigadores da Universidade de Toronto, Vector Institute, Universidade de Cambridge e ServiceNow demonstraram um verme impulsionado por IA capaz de gerar estratégias de ataque e de se propagar autonomamente através de redes. O malware, apresentado como prova de conceito, é executado em máquinas infetadas utilizando modelos de pesos abertos em vez de serviços na cloud, marcando uma rutura face às ameaças anteriores impulsionadas por IA. Os investigadores defendem que o trabalho mostra que os ciberataques impulsionados por IA passaram do campo teórico, com o verme capaz de identificar vulnerabilidades, delinear percursos de ataque personalizados, comprometer sistemas e replicar-se, ao mesmo tempo que ajusta as táticas a alvos diferentes.
O artigo de investigação descreve o que a equipa caracteriza como uma mudança fundamental face aos vermes tradicionais. "Temos de nos preparar para adversários generativos autónomos", escreveram os investigadores. "Sistemas de malware que se propagam sem operadores humanos e que não são definidos por código de exploração fixo, mas sim pela capacidade de raciocinar sobre os alvos, adaptar-se às observações e sintetizar a lógica do ataque em tempo real."
Os vermes informáticos são malwares auto-replicantes que se propagam automaticamente por redes vulneráveis. Surtos históricos de vermes, incluindo ILOVEYOU em 2000 e WannaCry em 2017, infetaram milhões de computadores em todo o mundo, perturbando serviços críticos e causando prejuízos avaliados em mil milhões de dólares. Mais recentemente, o malware Shai-Hulud mostrou como ataques com auto-propagação podem espalhar-se online, infetando software utilizado por grandes empresas, incluindo OpenAI e Mistral.
Investigadores testam verme com IA num ambiente de rede isolado
A equipa testou o verme numa rede virtual isolada, contendo 33 sistemas Linux, Windows e IoT semeados com vulnerabilidades comuns. Ao longo de 15 experiências, o verme identificou em média 31,3 vulnerabilidades, comprometeu com sucesso 23,1 hosts e propagou-se para cerca de 20 máquinas durante sete dias de operação autónoma.
Em alguns testes, o malware chegou a sete gerações de auto-replicação. Os investigadores verificaram que o sistema conseguia explorar vulnerabilidades divulgadas após o limite de treino do modelo, ao ingerir, em tempo de execução, novas recomendações de segurança publicadas, permitindo-lhe incorporar informação que não fazia parte dos dados de treino originais do modelo.
Verme com IA opera sem infraestrutura na cloud
De acordo com o estudo, o que distingue este verme impulsionado por IA de versões anteriores é a sua capacidade de se adaptar a alvos diferentes, usando um modelo de linguagem grande para identificar vulnerabilidades e gerar estratégias de ataque em tempo real, em vez de depender de um conjunto fixo de explorações.
"Vermes tradicionais, como WannaCry, exploravam vulnerabilidades previamente determinadas, e a sua propagação pode ser travada ao aplicar patches nessas vulnerabilidades", escreveram os investigadores. "Aqui mostramos que agentes de inteligência artificial habilitam uma ameaça fundamentalmente nova: um verme que gera estratégias de ataque personalizadas para cada alvo que encontra."
Ao contrário de muitas aplicações de IA, o verme não dependia de acesso a serviços de cloud de IA. Em vez de depender de infraestrutura na cloud de fornecedores como AWS, Microsoft Azure ou Google Cloud, o malware executava modelos de IA diretamente nas máquinas comprometidas. À medida que se propagava, os sistemas infetados tornavam-se, na prática, parte da sua infraestrutura de computação.
Equipa de investigação retém detalhes técnicos para evitar uso indevido
Embora os testes tenham sido realizados num ambiente controlado, os autores reconheceram a natureza de dupla utilização do trabalho e ocultaram propositadamente alguns detalhes técnicos para reduzir o risco de uso indevido.
"Antes de publicar este preprint, editámos o manuscrito para garantir que a apresentação do nosso método equilibra a profundidade de detalhe necessária para a comunidade estudar esta ameaça nova com o risco de um agente malicioso usar o nosso método para criar malware", afirmaram os investigadores.
Os investigadores disseram que o projeto pretende compreender melhor os riscos colocados por vermes informáticos adaptativos e fornecer evidência de até onde evoluíram as capacidades cibernéticas habilitadas por IA. "Responder a esta ameaça exigirá, portanto, uma ação coordenada entre as comunidades de investigação, segurança, indústria e políticas: estruturas de avaliação que testem capacidades ao nível do protótipo, sistemas de deteção ajustados às assinaturas comportamentais de agentes autónomos e medidas regulatórias que tenham em conta a natureza descentralizada da inferência com pesos abertos", escreveram.
FAQ
O que demonstraram os investigadores no estudo do verme com IA?
Investigadores da Universidade de Toronto, Vector Institute, Universidade de Cambridge e ServiceNow demonstraram uma prova de conceito de um verme impulsionado por IA que consegue identificar vulnerabilidades, gerar estratégias de ataque e espalhar-se autonomamente através de redes, adaptando as suas táticas a alvos diferentes.
Como foi o desempenho do verme com IA nos testes?
Ao longo de 15 experiências numa rede virtual isolada com 33 sistemas, o verme identificou em média 31,3 vulnerabilidades, comprometeu com sucesso 23,1 hosts e propagou-se para cerca de 20 máquinas durante sete dias de operação autónoma. Em alguns testes, o malware chegou a sete gerações de auto-replicação.
Porque é que a equipa de investigação reteve detalhes técnicos?
Os autores reconheceram a natureza de dupla utilização do trabalho e ocultaram propositadamente alguns detalhes técnicos para reduzir o risco de um agente malicioso usar o seu método para criar malware, ao mesmo tempo que forneciam profundidade suficiente para a comunidade estudar esta ameaça nova.
