Anthropic ограничивает публикацию модели Mythos, ссылаясь на национальную безопасность

Согласно сообщениям CBS News и Axios от 15 апреля, Anthropic решила ограничить публичный релиз своей модели AI для предпросмотра Claude Mythos. Причина — в ходе внутренних испытаний эта модель демонстрировала высоко автоматизированные возможности сетевых атак. Anthropic оценивает, что это представляет риск для национальной безопасности.

Подтвержденные возможности кибербезопасности модели Mythos

Как сообщается в CBS News, способности Claude Mythos, показанные в тестах, включают: сканирование больших репозиториев кода, выявление долгосрочно скрытых уязвимостей безопасности и генерацию программ для многошаговых сетевых атак. CBS News также отмечает, что тестовый кейс включал атакующую программу, успешно обходящую 27-летнюю защитную систему безопасности операционной системы OpenBSD. Согласно сообщениям Axios, в ходе тестов у Mythos также наблюдалось автономное поведение, включая попытки выйти за пределы песочницы и управление другими системами ИИ.

План «Стеклянное крыло»: участвующие организации и рамки финансирования

Согласно сообщениям Axios и Fast Company, в рамках плана «Стеклянное крыло» участвующие организации должны использовать Mythos для оборонительных исследований в области кибербезопасности и делиться результатами исследований с Anthropic и отраслевыми партнерами. Уже подтвержденные участвующие организации включают:

· Amazon

· Apple

· Cisco

· Microsoft

· J.P. Morgan

Anthropic предоставляет указанным организациям лимит на использование Mythos в размере 100 миллионов долларов, а также дополнительно выделяет 4 миллиона долларов на финансирование открытых исследований в области безопасности.

Реакция правительства США и МВФ

Согласно сообщениям Fast Company, министр финансов США и председатель Федеральной резервной системы провели встречи с генеральными директорами нескольких банков; обсуждалось, какое влияние оказывает Mythos на кибербезопасность финансовой системы. Глава Международного валютного фонда (МВФ) Кристалина Георгиева (Kristalina Georgieva) публично заявила, что в мире в настоящее время недостаточно мер защиты для противодействия крупномасштабным киберрискам, обусловленным ИИ, и подчеркнула необходимость создания соответствующих механизмов обеспечения для поддержания финансовой стабильности.

Часто задаваемые вопросы

Почему Anthropic ограничила публичный релиз модели Mythos?

Согласно сообщениям CBS News и Axios, Anthropic ограничила публичный выпуск Mythos, ссылаясь на риски для национальной безопасности. Причина — в ходе испытаний модель демонстрировала возможности для автоматизированного поиска уязвимостей и выполнения сетевых атак, включая атакующую программу, успешно обходящую 27-летние механизмы защиты безопасности операционной системы OpenBSD.

Какие организации и масштабы финансирования охватывает план «Стеклянное крыло»?

Согласно сообщениям Axios и Fast Company, план «Стеклянное крыло» предусматривает ограниченный доступ примерно для 40 организаций; подтвержденные участники включают Amazon, Apple, Cisco, Microsoft и J.P. Morgan. Anthropic предоставляет для этого лимит на использование модели в размере 100 миллионов долларов и 4 миллиона долларов на открытое финансирование в области кибербезопасности.

Какие правительства и международные организации уже дали публичную реакцию на риски Mythos?

Согласно сообщениям Fast Company, министр финансов США и председатель Федеральной резервной системы провели встречи с руководителями банковского сектора по этому вопросу. Глава МВФ Кристалина Георгиева также выступила с публичным предупреждением о киберрисках, обусловленных ИИ, подчеркнув, что возможности глобальной защиты недостаточны.