Дослідники з Університету Торонто, Vector Institute, Університету Кембриджа та ServiceNow продемонстрували керований ШІ хробак, здатний генерувати сценарії атак і автономно поширюватися мережею. Концептуальний зразок шкідливого ПЗ працює на інфікованих машинах із використанням моделей з відкритими вагами, а не хмарних сервісів, що є відходом від попередніх загроз, керованих ШІ. Дослідники стверджують, що їхня робота показує: ШІ-керовані кібератаки вийшли за межі теорії — хробак уміє виявляти вразливості, прокладати підлаштовані маршрути атак, компрометувати системи та відтворюватися, адаптуючи тактики до різних цілей.
У науковій роботі описано, як команда характеризує цей крок як фундаментальну зміну порівняно з традиційними хробаками. «Ми маємо готуватися до автономних генеративних супротивників», — написали дослідники. «Зловмисні системи, які поширюються без участі людей-операторів, визначаються не фіксованим кодом експлойту, а здатністю міркувати про цілі, адаптуватися до спостережень і синтезувати логіку атак у реальному часі».
Комп’ютерні черв’яки — це самовідтворюване шкідливе ПЗ, що автоматично поширюється через уразливі мережі. Історичні спалахи хробаків, зокрема ILOVEYOU у 2000 році та WannaCry у 2017 році, інфікували мільйони комп’ютерів по всьому світу, порушуючи роботу критично важливих сервісів і спричиняючи збитки на мільярди доларів. Нещодавно зловмисне ПЗ Shai-Hulud продемонструвало, як само-пропаговані атаки можуть поширюватися онлайн, інфікуючи програмне забезпечення, яке використовують великі компанії, зокрема OpenAI та Mistral.
Дослідники тестують AI-хробака в ізольованому середовищі
Команда протестувала хробака в ізольованій віртуальній мережі, що містила 33 системи Linux, Windows і IoT із типовими вразливостями. Під час 15 експериментів хробак у середньому виявив 31,3 вразливості, успішно компрометував 23,1 вузла та поширився приблизно на 20 машин за сім днів автономної роботи.
У деяких тестах шкідливе ПЗ досягало семи поколінь самовідтворення. Дослідники виявили, що система може використовувати вразливості, розкриті після «контрольної межі» навчання моделі, завантажуючи щойно опубліковані бюлетені безпеки під час виконання, що дозволяло їй інтегрувати інформацію, якої не було в початкових даних навчання моделі.
AI-хробак працює без хмарної інфраструктури
Згідно з дослідженням, що вирізняє цього AI-хробака з-поміж попередніх версій, так це його здатність адаптуватися до різних цілей: використовуючи велику мовну модель для виявлення вразливостей і генерації сценаріїв атак у реальному часі, а не покладаючись на фіксований набір експлойтів.
«Традиційні черв’яки, як-от WannaCry, використовували наперед визначені вразливості, а їхнє поширення можна зупинити, усунувши ці вразливості», — написали дослідники. «Тут ми показуємо, що агенти штучного інтелекту створюють принципово нову загрозу: хробака, який генерує підлаштовані сценарії атак для кожної цілі, яку він зустрічає».
На відміну від багатьох застосувань ШІ, хробак не залежав від доступу до хмарних сервісів ШІ. Замість того, щоб покладатися на хмарну інфраструктуру провайдерів на кшталт AWS, Microsoft Azure чи Google Cloud, зловмисне ПЗ запускало моделі ШІ безпосередньо на інфікованих машинах. У процесі поширення інфіковані системи фактично ставали частиною його обчислювальної інфраструктури.
Дослідницька команда приховує технічні деталі, щоб запобігти зловживанням
Хоча тестування проводилося в контрольованому середовищі, автори визнали двояке призначення цієї роботи й навмисно приховали деякі технічні деталі, щоб зменшити ризик зловживань.
«Перед публікацією цього preprint ми відредагували рукопис, щоб презентація нашого методу балансувала глибину деталізації, потрібну спільноті для вивчення цієї нової загрози, з ризиком того, що зловмисний актор використає наш метод для створення шкідливого ПЗ», — сказали дослідники.
Дослідники зазначили, що проєкт має на меті краще зрозуміти ризики, які створюють адаптивні комп’ютерні черв’яки, та надати докази того, наскільки далеко просунулися кіберможливості, підсилені ШІ. «Тому протидія цій загрозі вимагатиме скоординованих дій у межах дослідницької, безпекової, індустріальної та політичної спільнот: рамок для оцінювання, які тестують можливості на рівні інструментів, систем виявлення, налаштованих під поведінкові сигнатури автономних агентів, і регуляторних заходів, що враховують децентралізований характер open-weight inference», — написали вони.
FAQ
Що продемонстрували дослідники в дослідженні AI-хробака?
Дослідники з Університету Торонто, Vector Institute, Університету Кембриджа та ServiceNow продемонстрували доказ концепції AI-хробака, який здатний виявляти вразливості, генерувати сценарії атак і автономно поширюватися мережею, адаптуючи тактики до різних цілей.
Як AI-хробак показав себе під час тестування?
Під час 15 експериментів в ізольованій віртуальній мережі, що містила 33 системи, хробак у середньому виявив 31,3 вразливості, успішно компрометував 23,1 вузла та поширився приблизно на 20 машин за сім днів автономної роботи. У деяких тестах шкідливе ПЗ досягало семи поколінь самовідтворення.
Чому дослідницька команда приховала технічні деталі?
Автори визнали двояке призначення цієї роботи та навмисно приховали деякі технічні деталі, щоб зменшити ризик того, що зловмисний актор використає їхній метод для створення шкідливого ПЗ, водночас надаючи достатню глибину, щоб спільнота могла вивчити цю нову загрозу.
