Міністерство торгівлі США зобов’язує Anthropic призупинити для іноземних користувачів моделі Fable 5 і Mythos AI після виявлення проблем із безпекою

У середині червня Бюро промисловості та безпеки (BIS) Департаменту торгівлі США видало адміністративний наказ, який зобов’язує Anthropic призупинити доступ до API для своєї флагманської моделі Fable 5 і кібербезпекової моделі Mythos для іноземних громадян — включно з клієнтами за кордоном і співробітниками, які не працюють у межах США. Anthropic надали лише 90 хвилин на виконання, і оскільки вона не могла миттєво глобально перевірити національності користувачів, компанія вимкнула обидві моделі по всьому світу — навіть зачепивши союзників Five Eyes і UK AI Safety Institute. Дія стала першим адміністративним баном США на публічно розгорнуті моделі ШІ, змістивши регулювання з обмежень для чипів до контролю доступу до моделей.

Обмеження було запущено після того, як дослідники Amazon виявили потенційну вразливість для «jailbreak» у Fable 5, яка обходить класифікатори безпеки, щоб розкрити можливості аналізу мережі. За словами заступника голови Комітету з розвідки Сенату Марка Уорнера, посадовці NSA заявили, що Mythos проникла в перевірки засекречених систем за лічені години під час навчань red team. Anthropic планує відновити доступ до Fable 5 для громадян США до 8 липня, запровадивши механізми підтвердження особи.