Министерство торговли США требует от Anthropic приостановить модели Fable 5 и Mythos AI для иностранных пользователей после выявления уязвимостей безопасности

Бюро промышленности и безопасности (BIS) при Министерстве торговли США в середине июня выпустило административный приказ, обязав Anthropic приостановить доступ к API для своей флагманской модели Fable 5 и модели Mythos, ориентированной на кибербезопасность, для иностранных граждан — включая зарубежных клиентов и сотрудников, не являющихся гражданами США. Anthropic дали лишь 90 минут на выполнение, и поскольку компания не смогла мгновенно верифицировать национальности пользователей по всему миру, она отключила обе модели по всему миру, что затронуло даже союзников из Five Eyes и UK AI Safety Institute. Эта мера стала первым административным запретом США на публично развернутые ИИ-модели, сместив регулирование с ограничений по чипам на контроль доступа к моделям.

Ограничение было инициировано тем, что исследователи Amazon обнаружили потенциальную уязвимость для джейлбрейка в Fable 5: она обходит системы классификации безопасности, чтобы раскрыть возможности анализа сетей. По словам заместителя председателя Комитета Сената по разведке Марка Уорнера, сотрудники АНБ сообщили, что Mythos за считанные часы прошла тестирование на защищённых системах во время учений red team. Anthropic планирует восстановить доступ к Fable 5 для граждан США к 8 июля, внедрив механизмы проверки личности.