Исследователи из Университета Торонто, Vector Institute, Университета Кембриджа и ServiceNow продемонстрировали ИИ-ориентированного «червя», способного генерировать стратегии атак и автономно распространяться по сетям. Концепт-малварь работает на заражённых машинах, используя открытые по весам модели, а не облачные сервисы, что стало отходом от более ранних ИИ-угроз. Исследователи утверждают, что их работа показывает: ИИ-направленные кибератаки вышли за рамки теории — червь может выявлять уязвимости, разрабатывать под конкретные условия пути атак, компрометировать системы и самовоспроизводиться, адаптируя тактики под разные цели.
Научная статья описывает, что команда называет фундаментальным сдвигом по сравнению с традиционными червями. «Нам нужно готовиться к автономным генеративным противникам», — написали исследователи. «Вредоносные системы, распространяющиеся без участия человека-оператора, определяются не фиксированным набором кода для эксплуатации, а способностью рассуждать о целях, адаптироваться к наблюдениям и синтезировать логику атаки в реальном времени».
Компьютерные черви — это самовоспроизводящаяся вредоносная программа, которая автоматически распространяется по уязвимым сетям. Исторические вспышки, включая ILOVEYOU в 2000 году и WannaCry в 2017 году, заразили миллионы компьютеров по всему миру, нарушив работу критически важных сервисов и приведя к ущербу на миллиарды долларов. Более недавно вредоносная программа Shai-Hulud показала, как самопроникающие атаки могут распространяться в интернете, заражая ПО, используемое крупными компаниями, включая OpenAI и Mistral.
Исследователи тестируют ИИ-червя в изолированной среде сети
Команда протестировала червя в изолированной виртуальной сети, содержащей 33 системы Linux, Windows и IoT, предварительно «засеянные» распространёнными уязвимостями. За 15 экспериментов червь выявил в среднем 31,3 уязвимости, успешно скомпрометировал 23,1 хоста и распространился примерно на 20 машин за семь дней автономной работы.
В некоторых тестах малварь дошла до семи поколений саморепликации. Исследователи выяснили, что система способна эксплуатировать уязвимости, раскрытые после порога завершения обучения модели, — загружая вновь опубликованные бюллетени безопасности во время выполнения, что позволяло ей включать информацию, которой не было в исходных данных обучения модели.
ИИ-червь работает без облачной инфраструктуры
Согласно исследованию, что отличает этот ИИ-червь от более ранних версий, так это способность адаптироваться под разные цели с помощью большой языковой модели: она выявляет уязвимости и генерирует стратегии атак в реальном времени, вместо того чтобы полагаться на фиксированный набор эксплойтов.
«Традиционные черви, такие как WannaCry, эксплуатировали заранее определённые уязвимости, и их распространение можно остановить, закрыв эти уязвимости», — написали исследователи. «Здесь мы показываем, что ИИ-агенты создают принципиально новую угрозу: червь генерирует адаптированные стратегии атак для каждой цели, с которой сталкивается».
В отличие от многих ИИ-приложений, червь не зависел от доступа к облачным ИИ-сервисам. Вместо использования облачной инфраструктуры провайдеров вроде AWS, Microsoft Azure или Google Cloud, вредоносная программа запускала ИИ-модели напрямую на заражённых машинах. По мере распространения заражённые системы фактически становились частью её вычислительной инфраструктуры.
Исследовательская команда скрывает технические детали, чтобы предотвратить злоупотребления
Хотя тестирование проводилось в контролируемой среде, авторы признали, что работа имеет двойное назначение, и намеренно скрыли некоторые технические детали, чтобы снизить риск злоупотреблений.
«Перед публикацией этого препринта мы отредактировали рукопись, чтобы презентация нашего подхода соблюдала баланс между глубиной детализации, необходимой сообществу для изучения этой новой угрозы, и риском того, что злоумышленник использует наш метод для создания вредоносного ПО», — сказали исследователи.
Исследователи заявили, что проект нужен, чтобы лучше понять риски, связанные с адаптивными компьютерными червями, и дать доказательства того, насколько далеко продвинулись ИИ-расширенные кибервозможности. «Поэтому противодействие этой угрозе потребует скоординированных действий в среде исследований, кибербезопасности, индустрии и политик: рамки для оценки, которые проверяют возможности на уровне harness (тестового стенда/испытательного каркаса), системы обнаружения, настроенные на поведенческие сигнатуры автономных агентов, и регуляторные меры, учитывающие децентрализованную природу вывода с открытыми по весам моделями», — написали они.
FAQ
Что продемонстрировали исследователи в исследовании ИИ-червя?
Исследователи из Университета Торонто, Vector Institute, Университета Кембриджа и ServiceNow продемонстрировали концепт ИИ-ориентированного червя, который умеет выявлять уязвимости, генерировать стратегии атак и автономно распространяться по сетям, адаптируя тактики под разные цели.
Как показал себя ИИ-червь в тестировании?
За 15 экспериментов в изолированной виртуальной сети, содержащей 33 системы, червь выявил в среднем 31,3 уязвимости, успешно скомпрометировал 23,1 хоста и распространился примерно на 20 машин за семь дней автономной работы. В некоторых тестах малварь дошла до семи поколений саморепликации.
Почему исследовательская команда скрыла технические детали?
Авторы признали двойное назначение работы и намеренно скрыли некоторые технические детали, чтобы снизить риск того, что злоумышленник использует их метод для создания вредоносного ПО, при этом сохранив достаточную глубину, чтобы сообщество могло изучить новую угрозу.
