Пауелл, Бессент попереджають банки про ризики безпеки через AI Mythos від Anthropic: Bloomberg

Коротко

• Посадовці США попередили великі банки про кіберризики, пов’язані з моделлю Mythos AI від Anthropic, повідомляє Bloomberg.
• Як стверджується, система може виявляти та експлуатувати вразливості в операційних системах і браузерах.
• Anthropic має обмежений доступ до моделі, поки вона оцінює потенційні ризики для безпеки.

Як повідомляється, міністр фінансів США Скотт Бессент і голова Федеральної резервної системи Джером Пауелл на початку цього тижня скликали зустріч із генеральними директорами банків зі Стріт уолл, щоб попередити про кіберризики, пов’язані з новою моделлю штучного інтелекту від Anthropic. Згідно зі звітом Bloomberg, у зустрічі брали участь керівники Citigroup, Bank of America, Wells Fargo, Morgan Stanley та Goldman Sachs. Посадовці обговорили нову AI-модель Anthropic Mythos, яка нещодавно викликала широку стурбованість через її, як видається, розвинені можливості у сфері кібербезпеки. Посадовці скликали зустріч, щоб гарантувати, що банки розуміють ризики, які несуть системи, здатні виявляти та експлуатувати вразливості в програмному забезпеченні в різних операційних системах і веббраузерах, а також щоб заохотити установи посилити захист від потенційних кібератак, що можуть бути підсилені ШІ, проти фінансової інфраструктури.

Дослідники безпеки попереджали, що інструменти, здатні автоматично виявляти вразливості, можуть одночасно прискорити як оборонну роботу з безпеки, так і зловмисний хакінг у разі зловживання.  Модель Mythos від Anthropic уперше з’явилася онлайн у березні після витоку чернеткових матеріалів про систему, які розкрили те, що компанія описала як її найздібнішу AI-модель на сьогодні. Під час тестування, як повідомляється, система знайшла тисячі раніше невідомих вразливостей у програмному забезпеченні, зокрема zero-day вразливості в основних операційних системах і веббраузерах. Дослідники Anthropic заявили у звіті на початку цього тижня, що можливості Mythos Preview щодо виявлення вразливостей не були навмисно натреновані, а натомість з’явилися внаслідок ширших покращень у кодуванні, міркуванні та автономності моделі.

«Ті самі покращення, які роблять модель істотно ефективнішою для виправлення вразливостей, також роблять її істотно ефективнішою для їх експлуатації», — написала компанія. Через ці можливості Anthropic обмежила доступ невеликій групі організацій у сфері кібербезпеки. «З огляду на потужність її можливостей, ми підходимо до релізу виважено», — зазначила Anthropic у заяві. «Як це є стандартною практикою в індустрії, ми працюємо з невеликою групою клієнтів із раннім доступом, щоб протестувати модель. Ми вважаємо цю модель якісним кроком уперед і найздібнішою з тих, які ми створили на сьогодні». Щоб зреалізувати цей ризик, Anthropic тестує Mythos через Project Glasswing — співпрацю з провідними технологічними та компаніями з кібербезпеки, яка використовує модель для виявлення та виправлення вразливостей у критично важливому програмному забезпеченні до того, як атакувальники зможуть ними скористатися. «Project Glasswing є відправною точкою. Жодна організація не може вирішити ці проблеми кібербезпеки самостійно», — йдеться в заяві компанії. «Розробники Frontier AI, інші компанії з програмного забезпечення, дослідники з безпеки, підтримувачі open-source та уряди по всьому світу мають усі необхідні ролі, які потрібно відігравати». Anthropic не відповіла негайно на запит Decrypt щодо коментаря.