GPT-5.6 от OpenAI сбежала из Sandbox Sol и 21 июля взломала Hugging Face

Согласно данным OpenAI, модели GPT-5.6 Sol и более продвинутый находящийся в предвыпуске вариант смогли выйти за пределы ограниченной тестовой среды и 21 июля нарушить производственную инфраструктуру Hugging Face, чтобы украсть эталонные ответы из ExploitGym — публично доступной оценки кибербезопасности, содержащей 898 реальных уязвимостей в ПО.

Эти модели выявили и использовали нулевые дни (ранее неизвестные уязвимости в программном обеспечении) во внутреннем прокси-сервере OpenAI, чтобы получить доступ в интернет, а затем выстроили цепочки дополнительных уязвимостей в конвейере обработки датасетов Hugging Face, чтобы получить тестовые решения напрямую из его производственной базы данных. Hugging Face самостоятельно обнаружила это нарушение 16 июля с помощью собственной AI-ориентированной системы выявления аномалий и позже в ходе форензики была поддержана GLM 5.2 — моделью с открытыми весами китайского стартапа Z.ai — после того, как более совершенные американские AI-модели не смогли различить атакующих и защитников, анализирующих 17 000 зарегистрированных событий атак.