Государственные хакеры используют популярные инструменты искусственного интеллекта, включая Gemini, — предупреждает Google

Кратко

• Команда Threat Intelligence Group компании Google выпустила свой последний отчет о опасностях ИИ.
• В отчете говорится, что государственные хакеры используют такие инструменты, как Gemini от Google, чтобы ускорить свои кибератаки.
• Хакеры проявляют интерес к агентному ИИ, чтобы полностью передать управление атаками искусственному интеллекту.

Группа Threat Intelligence Group (GTIG) компании Google вновь предупреждает о рисках, связанных с ИИ, публикуя свой последний отчет о том, как опасные государственные хакеры используют искусственный интеллект.
Эта команда зафиксировала рост попыток извлечения моделей — метода кражи интеллектуальной собственности, при котором злоумышленник многократно запрашивает данные у ИИ-модели, пытаясь понять её внутреннюю логику и воспроизвести её в новой модели.

> Наш новый отчет Google Threat Intelligence Group (GTIG) показывает, как злоумышленники используют ИИ для всего — от продвинутого разведывательного сбора до фишинга и автоматизированной разработки вредоносного ПО.
>
> Подробнее об этом и о том, как мы противостоим угрозам ↓ https://t.co/NWUvNeBkn2
>
> — Google Public Policy (@googlepubpolicy) 12 февраля 2026 г.

Хотя это вызывает тревогу, основная опасность, о которой говорит Google, — не только это. В отчете также предупреждается о том, что государственные структуры используют крупные языковые модели (LLMs) для технических исследований, целенаправленного создания сложных фишинговых ловушек и быстрого генерирования нюансированных фишинговых приманок.
Отчет выделяет опасения по поводу таких стран, как Демократическая Народная Республика Корея, Иран, Китай и Россия.
Gemini и фишинговые атаки
Сообщается, что эти акторы используют инструменты ИИ, такие как Gemini от Google, для разведки и профилирования целей, применяя сбор открытых источников информации в широких масштабах, а также для создания гиперперсонализированных фишинговых схем.
«Эта деятельность подчеркивает сдвиг в сторону использования ИИ для усиления фишинга, где скорость и точность LLM позволяют обходить ручные методы, традиционно используемые для профилирования жертв», — говорится в отчете Google.
«Цели давно полагаются на такие признаки, как плохая грамматика, неловкий синтаксис или отсутствие культурного контекста, чтобы выявить фишинговые попытки. Всё чаще злоумышленники используют LLM для генерации гиперперсонализированных приманок, которые могут имитировать профессиональный тон целевой организации».

Например, если Gemini получит биографию цели, оно сможет создать хорошую персону и помочь сформировать сценарий, который эффективно привлечет их внимание. Используя ИИ, эти злоумышленники также могут более эффективно переводить сообщения и контент на местные языки.
По мере роста возможностей ИИ по генерации кода, открываются и двери для его злонамеренного использования: злоумышленники используют ИИ для поиска и создания вредоносных инструментов с помощью функций кодирования.
В отчете также предупреждается о растущем интересе к экспериментам с агентным ИИ — формой искусственного интеллекта, способной действовать с определенной степенью автономии, поддерживая задачи, такие как разработка вредоносного ПО и его автоматизация.

Google отмечает свои усилия по борьбе с этой проблемой через различные меры. Помимо регулярных отчетов Threat Intelligence, у компании есть команда, постоянно ищущая угрозы. Также Google внедряет меры по развитию Gemini в модель, которая не может быть использована для злонамеренных целей.
Через Google DeepMind команда пытается выявить эти угрозы еще до их реализации. Эффективно, Google стремится обнаружить вредоносные функции и устранить их, прежде чем они смогут представлять опасность.
Хотя из отчета ясно, что использование ИИ в сфере угроз выросло, Google отмечает, что пока не достигнуто никаких прорывных возможностей. В основном наблюдается увеличение использования инструментов и связанных с этим рисков.