США наказали Anthropic призупинити вигадані/міфічні сценарії Claude Fable 5 і Mythos 5 AI-моделей

Уряд США у п’ятницю видав надзвичайну директиву з експортного контролю, наказавши Anthropic негайно призупинити доступ до двох своїх найпотужніших моделей ШІ — Claude Fable 5 і Claude Mythos 5 — для всіх іноземних громадян, посилаючись на міркування національної безпеки щодо потенційної вразливості у вигляді «джейлбрейку». Директива, яка забороняє іноземним громадянам доступ до моделей як у межах, так і за межами Сполучених Штатів, змусила Anthropic вимкнути моделі для всієї бази клієнтів, щоб забезпечити виконання вимог. Обидві моделі були випущені лише кілька днів тому: Mythos 5 була доступна тільки обраним партнерам через її здатність виявляти експлойти в кібербезпеці.

Державна директива призупиняє доступ до Claude Fable 5 та Claude Mythos 5

Надзвичайна директива з експортного контролю, видана в п’ятницю, забороняє будь-якому іноземному громадянину отримувати доступ до Claude Fable 5 і Claude Mythos 5 — як у межах, так і за межами Сполучених Штатів. Широкий обсяг наказу змусив Anthropic вимкнути моделі для всієї бази клієнтів, щоб забезпечити виконання вимог.

У листі не було надано конкретних деталей щодо занепокоєння національною безпекою, але уряд вважає, що йому стало відомо про метод обходу, або «джейлбрейку», публічно доступної моделі Fable 5. Mythos 5, яка має менше обмежувальних запобіжників і є особливо потужною у виявленні експлойтів для кібербезпеки, була доступна лише обраним партнерам.

Доступ до всіх інших моделей Anthropic не буде порушено. Компанія заявила, що працює над відновленням доступу якнайшвидше.

Anthropic оскаржує висновок щодо критичності джейлбрейку

Anthropic оскаржила критичність цього висновку. Компанія заявила, що перевірила демонстрацію техніки й дійшла висновку, що виявлені вразливості виглядають відносно простими, а інші публічно доступні моделі також здатні їх знаходити без потреби в будь-якому обході.

Компанія зазначила, що уряд наразі надав лише вербальні докази потенційного вузького, неуніверсального джейлбрейку — по суті, він полягав у тому, щоб попросити модель прочитати конкретну кодову базу та виправити будь-які програмні вади. Anthropic додала, що перевірила: рівень можливостей, показаний у демонстрації, уже широко доступний у конкуруючих моделях, зокрема в GPT-5.5 від OpenAI.

Під час виконання директиви Anthropic заявила, що вважає цей крок небезпечним прецедентом. «Якщо цей стандарт застосувати по всій індустрії, — написала компанія, — ми вважаємо, що він по суті зупинив би всі нові розгортання моделей для всіх провайдерів фронтирних (найпередовіших) моделей».

Девід Сакс детально описує позицію уряду щодо призупинення

У суботу Девід Сакс — співголова Ради при Президентові з радників з науки та технологій — написав у X, що «вкрай достовірний, перевірений партнер і Anthropic, і уряду США, який тестував Fable, повідомив про джейлбрейк цих запобіжників. Адміністрація попросила [CEO Anthropic Даріо Амодеї] виправити джейлбрейк або де-деплоїти модель. Даріо відмовився».

Далі Сакс стверджував, що реакція Anthropic на запит уряду суперечить власним публічним заявам компанії щодо необхідності безпеки та регулювання для ШІ — позиції, яку Амодеї цього тижня знову озвучив у блозі.

«Anthropic зробила пріоритетом продовження надання споживчої моделі замість безпеки, — написав Сакс. — У відповідь адміністрація видала експортний контроль. Адміністрація зробила це з небажанням. Мене дуже здивувало, що Anthropic не захотіла співпрацювати з розумним запитом щодо безпеки (тобто виправити проблему джейлбрейку). Реакція Anthropic значною мірою суперечить їхньому брендингу та етиці як безпечної спільноти для досліджень ШІ».

Сакс додав, що адміністрація сподівається: Anthropic виправить проблему, і Fable 5 зможе повернутися до публічного релізу. «Адміністрація цінує технічні можливості Anthropic і вважає, що ця проблема, хоч і серйозна, має легко вирішуватися, — написав він. — М’яч на стороні Anthropic».

Раніші напруження між Anthropic і урядом США

На початку цього року Anthropic та уряд США зійшлися в конфлікті, коли компанія відмовилася підписати розширену угоду, що дозволяє масове внутрішнє стеження за американцями, а також повністю автономні системи смертельної зброї.

Президент Дональд Трамп розкритикував компанію після зриву переговорів, а Міністерство оборони назвало Anthropic «ризиком ланцюга постачання» — позначення, яке фірма оскаржувала в суді. Відтоді з’явилися повідомлення, що протистояння між двома сторонами охололо, оскільки уряд намагався застосовувати Claude Mythos та інші моделі.

FAQ

Що уряд США наказав зробити Anthropic у п’ятницю?

Уряд США у п’ятницю видав надзвичайну директиву з експортного контролю, наказавши Anthropic негайно призупинити доступ до Claude Fable 5 і Claude Mythos 5 для всіх іноземних громадян, посилаючись на міркування національної безпеки щодо потенційної вразливості у вигляді джейлбрейку.

Чому Anthropic оскаржує висновок уряду щодо джейлбрейку?

Anthropic розглянула демонстрацію техніки й дійшла висновку, що виявлені вразливості виглядають відносно простими, а інші публічно доступні моделі, зокрема GPT-5.5 від OpenAI, також здатні їх знаходити без потреби в будь-якому обході.

Які попередні напруження існували між Anthropic і урядом США?

На початку цього року Anthropic відмовилася підписати розширену угоду, що дозволяє масове внутрішнє стеження за американцями, а також повністю автономні системи смертельної зброї, через що Міністерство оборони назвало Anthropic «ризиком ланцюга постачання» — позначення, яке фірма оскаржувала в суді.