Anthropic зустрічається з адміністрацією Трампа через директиву Fable 5 і Mythos 5

Старші співробітники Anthropic у понеділок зустрічаються з посадовцями адміністрації Трампа у Вашингтоні, округ Колумбія, щоб вирішити суперечку щодо останніх моделей ШІ компанії, повідомило джерело, близьке до компанії. У п’ятницю Anthropic отримала директиву експортного контролю, яка посилалася на органи національної безпеки та наказувала компанії призупинити доступ до Fable 5 і Mythos 5 будь-якими іноземними громадянами — як усередині, так і за межами Сполучених Штатів. Стартап зі ШІ вимкнув доступ до моделей для всіх клієнтів, щоб забезпечити виконання директиви. Дія є найновішим проявом напруження у відносинах Anthropic із владою: вони загострилися після зіткнення з Міністерством оборони раніше цього року, коли DOD у березні назвав Anthropic ризиком для ланцюгів постачання.

Уряд видав у п’ятницю директиву експортного контролю

У п’ятницю уряд зателефонував Anthropic о 13:00 за східним часом (ET) і наказав компанії вимкнути Fable 5 та Mythos 5 через неуточнену загрозу національної безпеки, повідомила особа, обізнана про перебіг обговорень, яка попросила не називати її ім’я, щоб говорити про конфіденційні питання. Anthropic отримала офіційного листа приблизно о 17:30 за ET, який вимагав від компанії призупинити моделі. До того, як директива надійшла в п’ятницю, Anthropic не отримувала жодних повідомлень про загрозу національної безпеки, зазначила ця особа.

У своєму повідомленні в п’ятницю Anthropic заявила, що вважає занепокоєння уряду пов’язаним із потенційним вузьким, неуніверсальним jailbreak — таким, коли користувач може обійти кіберзахисний запобіжник і попросити Fable 5 прочитати конкретну базу коду та виправити будь-які вразливості в програмному забезпеченні.

DOD назвав Anthropic ризиком ланцюгів постачання у березні

Міністерство оборони назвало Anthropic ризиком для ланцюгів постачання у березні: це заборонило оборонним підрядникам використовувати технологію компанії, оскільки, як стверджувалося, вона загрожує національній безпеці США. Глава Пентагону Піт Хегсет (Pete Hegseth) звернувся до останньої директиви уряду в дописі на X у суботу, написавши, що кожен наступний день доводить, чому внесення Anthropic до чорного списку було правильним рішенням.

Anthropic подала до суду на адміністрацію Трампа, намагаючись скасувати позначення ризику для ланцюгів постачання, і цей процес триває.

Anthropic отримала попереднє схвалення для моделей

Anthropic представила Fable 5 і Mythos 5 у вівторок — за кілька днів до того, як отримала від уряду директиву експортного контролю. Компанія працювала з держорганами, щоб тестувати моделі напередодні релізу, і отримала схвалення на їхнє розгортання, повідомила особа, обізнана про перебіг обговорень, яка попросила не називати її ім’я, щоб говорити про конфіденційні питання.

Fable 5 і Mythos 5 розвиваються на основі Claude Mythos Preview від Anthropic — потужної моделі, яка відзначається тим, що вміє виявляти вразливості безпеки в програмному забезпеченні. Anthropic обмежила запуск вибірковою групою компаній у межах ініціативи з кібербезпеки під назвою Project Glasswing, і такий підхід, схоже, приніс певну доброзичливість адміністрації Трампа: з компанією було проведено кілька зустрічей щодо можливостей моделі.

Anthropic рекламувала Fable 5 і Mythos 5 як моделі рівня state-of-the-art, які очолюють багато галузевих бенчмарків. Mythos 5 і надалі обмежена вибірковою групою користувачів, але Anthropic зробила Fable 5 доступним для своїх корпоративних клієнтів і платних передплатників. Компанія заявила, що широкий реліз став можливим завдяки новим запобіжникам, які блокують відповіді в окремих зонах із високим ризиком, зокрема в напрямах кібербезпеки та біології.

Компанія заперечує занепокоєння щодо вузького jailbreak

Anthropic заявила, що не погоджується з тим, що виявлення потенційного вузького jailbreak має бути підставою для відкликання комерційної моделі, розгорнутої для сотень мільйонів людей. Компанія сказала: «Якщо б цей стандарт застосували в усій індустрії, ми вважаємо, що це фактично зупинило б усі нові розгортання моделей для всіх провайдерів frontier-моделей».

Anthropic заявила, що вважає цю суперечку непорозумінням і що працює над відновленням доступу якомога швидше.

FAQ

Що зробила Anthropic у п’ятницю у відповідь на урядову директиву?
У п’ятницю Anthropic вимкнула доступ до своїх AI-моделей Fable 5 і Mythos 5 для всіх клієнтів після отримання від уряду директиви експортного контролю, яка посилалася на органи національної безпеки та наказувала компанії призупинити доступ для будь-яких іноземних громадян — як усередині, так і за межами Сполучених Штатів.

Чому Міністерство оборони назвало Anthropic ризиком для ланцюгів постачання?
DOD назвав Anthropic ризиком для ланцюгів постачання у березні, що заборонило оборонним підрядникам використовувати технологію компанії, оскільки, як стверджувалося, вона загрожує національній безпеці США. У суботу голова Пентагону Піт Хегсет (Pete Hegseth) опублікував на X допис, де заявив, що кожен наступний день доводить, чому внесення Anthropic до чорного списку було правильним рішенням.

Як Anthropic описує занепокоєння уряду щодо Fable 5?
У своєму повідомленні в п’ятницю Anthropic заявила, що вважає занепокоєння уряду пов’язаним із потенційним вузьким, неуніверсальним jailbreak, коли користувач може обійти кіберзахисний запобіжник і попросити Fable 5 прочитати конкретну базу коду та виправити будь-які вразливості в програмному забезпеченні. Компанія назвала суперечку непорозумінням і заявила, що працює над відновленням доступу якомога швидше.