Правительство США в пятницу выпустило экстренную директиву по экспортному контролю, обязав Anthropic немедленно приостановить доступ к двум своим самым продвинутым ИИ-моделям, Claude Fable 5 и Claude Mythos 5, для всех иностранных граждан, сославшись на опасения по национальной безопасности из‑за потенциальной уязвимости для jailbreaking. Директива запрещает доступ как внутри, так и за пределами Соединённых Штатов, вынуждая Anthropic отключить модели для всей базы клиентов. Власти полагают, что им удалось выявить способ обхода публично доступной модели Fable 5, хотя Anthropic оспорила серьёзность, заявив, что уязвимость тривиальна и её уже можно воспроизвести с помощью других публично доступных моделей, таких как GPT-5.5. Приказ появился на фоне продолжающихся напряжённостей между Anthropic и правительством по вопросам безопасности ИИ и соглашений о наблюдении.
Правительственная директива приостанавливает доступ к Fable 5 и Mythos 5
Директива запрещает любому иностранному гражданину доступ к моделям — как внутри, так и за пределами Соединённых Штатов. Масштабный охват приказа вынудил Anthropic отключить модели для всей базы клиентов, чтобы обеспечить соблюдение требований. В письме не приводились конкретные детали национальной security concern, однако власти считают, что им стало известно о способе обхода — «jailbreaking» — публично доступной модели Fable 5. Mythos 5, у которой меньше ограничителей и которая особенно мощна в выявлении эксплойтов в кибербезопасности, была доступна только избранным партнёрам. Обе модели были выпущены всего несколькими днями ранее.
Anthropic оспаривает серьёзность jailbreak
Anthropic оспорила серьёзность найденной проблемы. Компания заявила, что рассмотрела демонстрацию техники и пришла к выводу, что выявленные уязвимости выглядят относительно простыми, и что другие публично доступные модели способны обнаруживать их тоже, без необходимости какого‑либо обхода. Компания отметила, что пока правительство предоставило лишь словесные доказательства потенциального узкого, не универсального jailbreak — по сути, он сводится к просьбе модели прочитать конкретную кодовую базу и исправить любые программные недостатки. Anthropic добавила, что она подтвердила: уровень возможностей, показанный в демонстрации, уже широко доступен в конкурирующих моделях, включая GPT-5.5 от OpenAI.
Соблюдая директиву, Anthropic заявила, что считает этот шаг опасным прецедентом. «Если бы этот стандарт применялся по всей отрасли», — написала компания, — «мы считаем, что это фактически остановило бы все новые развёртывания моделей для всех провайдеров frontier‑уровня». Доступ ко всем остальным моделям Anthropic затронут не будет. Компания сказала, что работает над восстановлением доступа как можно скорее.
Дэвид Сакс критикует Anthropic в соцсетях
В субботу Дэвид Сакс — сопредседатель Совета при президенте США по науке и технологиям — написал в X, что «высоконадёжный, проверенный партнёр и Anthropic, и правительства США, который тестировал Fable, вышел с тем, что эти ограничения можно обойти через jailbreak. Администрация попросила [CEO Anthropic Дарио Амодея] исправить jailbreak или снять модель с развёртывания. Дарио отказался».
Далее Сакс утверждал, что реакция Anthropic на запрос правительства противоречит собственным публичным заявлениям компании о необходимости безопасности ИИ и регулирования — взгляд, который Амодей снова разделил на этой неделе в блоге. «Anthropic поставила приоритет на продолжение предложения потребительской модели вместо безопасности», — написал Сакс. «В ответ администрация выпустила экспортный контроль. Администрация сделала это неохотно. Очень удивительно, что Anthropic не захотела сотрудничать с разумной просьбой по безопасности (то есть исправить проблему jailbreak). Реакция Anthropic очень сильно расходится с их брендингом и идеологией безопасного сообщества исследователей ИИ».
Сакс добавил, что администрация надеется, что Anthropic исправит проблему, и что Fable 5 сможет вернуться в публичный релиз. «Администрация ценит технические возможности Anthropic и считает, что хотя этот вопрос серьёзен, его легко решить», — написал он. «Мяч на стороне Anthropic».
Ранее — спор из‑за соглашения о наблюдении
В начале этого года у Anthropic и правительства США возникли разногласия, когда ИИ‑компания отказалась подписать расширенное соглашение, разрешающее массовое внутригосударственное наблюдение за американцами и полностью автономные смертоносные системы вооружений. Дональд Трамп жёстко раскритиковал компанию после того, как переговоры зашли в тупик, а Министерство обороны назвало Anthropic «риском для цепочки поставок» — этот статус компания оспаривала в суде. С тех пор появились сообщения, что противостояние между сторонами охладилось, поскольку правительство попыталось использовать Claude Mythos и другие модели.
FAQ
Что правительство США приказало сделать Anthropic в пятницу?
Правительство США в пятницу выпустило экстренную директиву по экспортному контролю, обязав Anthropic немедленно приостановить доступ к двум своим самым продвинутым ИИ-моделям, Claude Fable 5 и Claude Mythos 5, для всех иностранных граждан, сославшись на опасения по национальной безопасности из‑за потенциальной уязвимости для jailbreaking.
Почему Anthropic оспорила директиву правительства?
Anthropic оспорила серьёзность найденной проблемы, утверждая, что выявленные уязвимости выглядят относительно простыми и что другие публично доступные модели, включая GPT-5.5 от OpenAI, способны обнаруживать их тоже без необходимости какого‑либо обхода. Компания заявила, что правительство предоставило лишь словесные доказательства потенциального узкого, не универсального jailbreak.
Что Дэвид Сакс сказал о реакции Anthropic на директиву?
В субботу Дэвид Сакс написал в X, что CEO Anthropic Дарио Амодей отказался исправить jailbreak или снять модель с развёртывания по запросу администрации. Сакс утверждал, что реакция Anthropic противоречит публичным заявлениям компании о безопасности ИИ и регулировании, заявив: «Anthropic поставила приоритет на продолжение предложения потребительской модели вместо безопасности».
