Антропік отримала вказівку щодо експортного контролю пізно в п’ятницю, яка наказала компанії призупинити доступ до її найновіших моделей Claude, Fable 5 і Mythos 5, для будь-якої іноземної особи — як у межах, так і поза межами Сполучених Штатів, включно з іноземними співробітниками Anthropic. Адміністрація Трампа послалася на органи з питань національної безпеки, але, за даними Anthropic, не уточнила, у чому саме її занепокоєння. Вказівка надійшла за кілька днів після того, як генеральний директор Anthropic Даріо Амодей опублікував есе, у якому закликав до серйознішого й більш зобов’язувального регулювання ШІ, зокрема до можливості блокувати моделі, якщо їх визнають небезпечними. The Wall Street Journal повідомила, що цей крок був спричинений розмовами, які CEO Amazon Енді Джассі вів із посадовцями США, включно з міністром фінансів Скоттом Бессентом, у ході яких Джассі заявив, що дослідники Amazon використовували підказки (prompts), щоб змусити Fable 5 видавати інформацію, яка може сприяти кібератакам. Компанія, яка нині оцінюється майже в 1 трильйон доларів, роками розповідала про свою відданість безпеці, але цього року втретє (уже вдруге) опинилася в зоні уваги «перехресного вогню» адміністрації Трампа.
Адміністрація Трампа ухвалила директиву з експортного контролю з міркувань національної безпеки
Директива надійшла приблизно через 10 днів після того, як президент Дональд Трамп підписав розпорядження щодо ШІ, яке просило компанії на добровільній основі надавати моделі федеральному уряду для оцінки їхніх можливостей напередодні повного релізу. У розпорядженні також адміністрації дали 60 днів на розробку та підтримання відповідних рамок перевірки для ШІ-компаній, щоб вони могли врахувати їх. Немає ознак, що примусова зупинка найновіших моделей Anthropic була пов’язана з цим розпорядженням.
За повідомленням The Wall Street Journal із посиланням на людей, знайомих із ситуацією, CEO Amazon Енді Джассі сказав адміністрації, що дослідники Amazon використали серію підказок (prompts), щоб змусити Fable 5 видавати інформацію, яка може сприяти кібератакам. Компанія назвала підписане раніше цього місяця розпорядження Трампа щодо ШІ «важливим кроком».
У відповідь Anthropic заявила, що не погоджується з тим, що висновок адміністрації Трампа є підставою для відкликання, і охарактеризувала збій як «порозуміння». У дописі в блозі компанія зазначила: «Як ми вже публічно говорили, ми вважаємо, що уряд має мати можливість блокувати небезпечні розгортання як частину статутного процесу, який є прозорим, справедливим, чітким і ґрунтується на технічних фактах. Ця дія не відповідає цим принципам».
Деніел Ремлер, старший науковий співробітник Центру Нової американської безпеки, сказав CNBC: «Це дуже схоже на обов’язковість, якщо будуть наслідки за те, що ви не зробите те, що каже уряд». Він додав: «Перейти від середовища, де не було жодних контролів доступу до моделей, і фактично використати цей інструмент, щоб зняти модель однієї компанії за лічені години, — це дуже примітно».
Керівники Anthropic зустрілися з посадовцями адміністрації Трампа
Старші співробітники Anthropic у понеділок вилетіли до Вашингтона, округ Колумбія, щоб зустрітися з представниками адміністрації Трампа. Компанія повідомила CNBC, що «обидві сторони швидко працюють над тим, щоб це врегулювати». Anthropic не повідомляла, коли очікує, що її моделі повернуться в онлайн-режим.
За словами людини, знайомої з обговореннями, яка попросила не називати її через необхідність обговорювати конфіденційні питання, Anthropic працювала з державними агенціями, щоб протестувати моделі ще до релізу, і отримала схвалення на їхнє розгортання. За словами співрозмовника, уряд не повідомляв про загрозу з боку національної безпеки.
Fable 5 і Mythos 5 були побудовані на квітневому релізі Claude Mythos Preview — потужній пропозиції, що вирізняється виявленням вразливостей безпеки в програмному забезпеченні. Anthropic обмежила розгортання вибірковою групою компаній у межах ініціативи з кібербезпеки під назвою Project Glasswing. Mythos 5 досі був обмежений вибірковою групою користувачів, але Anthropic зробила Fable 5 доступним для своїх корпоративних клієнтів і платних підписників. Компанія заявила, що розширений реліз став можливим завдяки новим запобіжникам, які блокують відповіді в конкретних зонах підвищеного ризику, зокрема в кібербезпеці та біології.
Лідери галузі подали відкритий лист із проханням скасувати директиву
Олекс Стомос, директор з продуктів Corridor і колишній керівник з безпеки у Facebook, написав відкритий лист про «прозорі кіберзахисти для ШІ», адресований міністру торгівлі Говарду Лютніку та національному директору з кібербезпеки Сіну Кейнкросу. Лист, підписаний більш ніж 150 виконавчими директорами та технічними лідерами, просить скасувати директиву з експортного контролю.
У розмові з CNBC Стомос сказав, що правила мають бути «ґрунтовані на науці». Він заявив: «Ці правила потрібно записати та зробити прозорими. Цього не сталося. Немає нічого, що Anthropic або хтось інший може подивитися, щоб сказати, що я можу або не можу робити». Він додав, що для кожної американської компанії, «страх у тому, що в будь-який момент вас тепер можуть зупинити через повністю свавільне рішення — якщо ви не влаштовуєте адміністрацію».
Девід Сакс, венчурний капіталіст, який раніше працював «царем» з питань ШІ та криптовалют у Трампа, написав у X, що «мінімізувальна мова» в блозі компанії не відповідає її бренду як «компанії з безпеки ШІ». Сакс заявив: «Адміністрація цінує технічні можливості Anthropic і вважає, що ця проблема, хоча й серйозна, має легко вирішитися. М’яч зараз на боці Anthropic».
Призначення ризику ланцюга постачання Міністерством оборони залишається предметом судового розгляду
На початку цього року Anthropic втягнулася в гучну суперечку з Міністерством оборони. DOD у березні оголосив Anthropic ризиком для ланцюга постачання — це позначення зобов’язує підрядників у сфері оборони сертифікувати, що вони не використовуватимуть моделі Claude у своїй роботі з військовими. Anthropic подала до суду на адміністрацію Трампа, намагаючись скасувати це призначення ризику для ланцюга постачання. Цей судовий процес триває.
У дописі в X у суботу міністр оборони Піт Гегсетт звернувся до останньої урядової директиви, написавши, що «кожен день, що минає», доводить, чому внесення Anthropic до чорного списку було «правильним кроком».
Компанія та її головний конкурент OpenAI нещодавно конфіденційно подали свої проспекти IPO, готуючи потенційно історичні продажі акцій для інвесторів, які прагнуть зайти в ШІ.
FAQ
Що адміністрація Трампа наказала зробити Anthropic пізно в п’ятницю?
Адміністрація Трампа видала пізно в п’ятницю директиву щодо експортного контролю, яка наказала Anthropic призупинити доступ до її найновіших моделей Claude, Fable 5 і Mythos 5, для будь-якої іноземної особи — як у межах, так і поза межами Сполучених Штатів, включно з іноземними співробітниками Anthropic. Адміністрація послалася на органи з питань національної безпеки, але, за даними Anthropic, не уточнила, у чому її занепокоєння.
Чому адміністрація Трампа видала директиву з експортного контролю проти Anthropic?
За повідомленням The Wall Street Journal із посиланням на людей, знайомих із ситуацією, цей крок був спричинений розмовами, які CEO Amazon Енді Джассі вів із посадовцями США, включно з міністром фінансів Скоттом Бессентом. Джассі сказав адміністрації, що дослідники Amazon використали серію підказок (prompts), щоб змусити Fable 5 видавати інформацію, яка може сприяти кібератакам. Адміністрація Трампа послалася на органи з питань національної безпеки, але не уточнила, у чому її занепокоєння.
Що робить Anthropic, щоб вирішити директиву з експортного контролю?
Старші співробітники Anthropic у понеділок вилетіли до Вашингтона, округ Колумбія, щоб зустрітися з представниками адміністрації Трампа. Компанія повідомила CNBC, що «обидві сторони швидко працюють над тим, щоб це врегулювати». Anthropic не повідомляла, коли очікує, що її моделі повернуться в онлайн-режим.
