По словам Дэвида Сакса, руководителя Белого дома по вопросам ИИ и крипто, на этой неделе Anthropic выпустила свою модель Fable с защитными ограничителями, но исследователи обнаружили метод джейлбрейка, который обходит эти меры и открывает доступ к расширенным возможностям кибератак. Сакс сообщил, что проверенный партнёр протестировал Fable и выявил уязвимость, после чего правительство США запросило у CEO Anthropic Дарио Амодея устранить проблему или снять модель с листинга. Anthropic отказалась, заявив, что недостаток не является серьёзным — позиция, расходящаяся с оценками правительства и партнёра. В ответ правительство США ввело экспортные ограничения для Anthropic, заявив, что Fable сможет возобновить полное развертывание, как только компания решит вопрос безопасности.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

2ч назад

Администрация Трампа ограничивает экспорт ИИ-моделей Anthropic Mythos 5 и Fable 5

5ч назад

Anthropic завершила аудит безопасности протокола Zcash и не обнаружила новых критических уязвимостей

6ч назад

Правительство США обязало Anthropic приостановить модели Claude Fable 5 и Mythos 5 из-за уязвимости, связанной с обходом ограничений

12ч назад

ИИ Mythos от Anthropic не обнаружил серьёзных ошибок в Zcash после исправления подделки

12ч назад

Аудит AI Mythos от Anthropic не выявил новых критических уязвимостей в протоколе Zcash

Детальный анализ