Міністри фінансів, керівники центральних банків і провідні фінансисти дедалі більше зосереджуються на потенційних ризиках, які несе модель Anthropic Claude Mythos, на тлі побоювань, що вона може розкрити критичні слабкості в глобальній фінансовій інфраструктурі.
Зведення

• Глобальні лідери у фінансах попереджають, що Mythos від Anthropic, імовірно, може виявити критичні вади у фінансових та базових ІТ-системах.
• Банки й уряди тестують модель на ранній стадії, щоб виявити вразливості до будь-якого ширшого випуску.
• Посадовці застерігають, що такі інструменти можуть допомогти кіберзлочинцям експлуатувати слабкості навіть тоді, коли вони посилюють оборону.

Модель уже спричинила обговорення на високому рівні та надзвичайно-стильні зустрічі після того, як раннє тестування виявило вразливості в основних операційних системах і широко використовуваних застосунках. Посадовці та експерти галузі кажуть, що система може мати «безпрецедентну» здатність виявляти й експлуатувати недоліки кібербезпеки, хоча дехто застерігає, що її повні можливості досі до кінця не зрозумілі.

Міністр фінансів Канади Франсуа-Філіп Шампань заявив, що цього тижня питання домінувало в розмовах під час зустрічей Міжнародного валютного фонду у Вашингтоні.

«Звісно, це достатньо серйозно, щоб вимагати уваги всіх міністрів фінансів», — сказав він, додавши, що на відміну від фізичних ризиків, виклик із ШІ — це «невідоме невідоме».

Він наголосив на необхідності запобіжників, сказавши, що влада має переконатися: «у нас є процес, щоб ми забезпечили стійкість наших фінансових систем».

Банки й уряди рухаються до тестування систем до випуску

Крупні банки та державні установи вже отримують ранній доступ до Mythos, щоб оцінити вразливості до будь-якого ширшого розгортання.

К. С. Венкатакрішнан, генеральний директор Barclays, сказав, що занепокоєння є достатньо вагомим, аби вимагати негайної уваги.

«Це настільки серйозно, що людям доводиться турбуватися», — сказав він. «Ми маємо краще це зрозуміти, і ми маємо зрозуміти вразливості, які виявляються, та швидко їх виправити».

Він додав, що ситуація відображає більш взаємопов’язану фінансову систему, де ризики й можливості дедалі більше переплітаються.

Anthropic повідомила, що Mythos уже виявив кілька недоліків у різних операційних системах, фінансових платформах і веббраузерах. У відповідь доступ обмежили вузьким колом установ, зокрема великих технологічних компаній і системно важливих банків, щоб вони могли посилити оборону до ширшого розкриття.

Влада Сполучених Штатів вжила подібних заходів. Міністерство фінансів заохотило провідні банки розгортати модель у себе всередині, щоб виявити слабкі місця, а також паралельно вивчало способи надати керовану версію для федеральних агенцій. Меморандум Офісу з питань управління та бюджету Білого дому описав плани запровадити запобіжники до надання будь-якого такого доступу.

Ендрю Бейлі, голова Банку Англії, сказав, що наслідки для кіберзлочинності потрібно сприймати серйозно.

«Ми змушені тепер дуже уважно дивитися, що може означати для ризику кіберзлочинності це новітнє досягнення в галузі ШІ», — сказав він, попереджаючи, що такі інструменти можуть полегшити «поганим суб’єктам» визначення й експлуатацію вразливостей системи.

Старші посадовці США, зокрема Скотт Бессент і Джером Пауелл, уже скликали керівників Уолл-стріт, щоб обговорити ризики. Як повідомляється, серед учасників були лідери великих банків, таких як Goldman Sachs, Bank of America, Citigroup і Morgan Stanley, що підкреслювало системну важливість цієї проблеми.

Голоси з галузі припускають, що занепокоєння можуть бути не обмежені Anthropic. Джерела вказують, що інша американська компанія зі ШІ може випустити модель зі схожими можливостями без зіставних запобіжників.

Джеймс Вайз із Balderton Capital назвав Mythos «першою з багатьох інших більш потужних моделей», здатних виявляти вразливості системи. Його підрозділ Sovereign AI інвестує в компанії, орієнтовані на безпеку ШІ, додаючи: «Ми сподіваємося, що моделі, які виявляють вразливості, є також тими моделями, які їх виправлятимуть».

Що таке Claude Mythos?

Mythos є частиною сімейства моделей Claude від Anthropic — конкуруючої системи пропозиціям OpenAI та Google. На відміну від попередніх релізів, компанія обмежила доступ через побоювання, що інструмент можуть використати, щоб виявити чутливі вади або проникнути в захищені системи.

Внутрішнє тестування викликало тривогу після того, як модель ідентифікувала критичні баги, які зазвичай потребують висококваліфікованих хакерів, аби їх виявити. Як повідомляється, деякі вразливості сягають десятиліть тому, що підкреслює прогалини, які не були помічені традиційними системами безпеки.

Занепокоєння також перетекли у політичні суперечки. Нещодавно Пентагон позначив Anthropic як потенційний ризик для ланцюгів постачання — крок, який зазвичай застосовують щодо іноземних супротивників. Компанія успішно оскаржила запропоновану заборону в суді, стверджуючи, що це призведе до значних фінансових втрат.

У колах, що стосуються національної безпеки, Mythos привніс нову невизначеність щодо того, як оцінюють кіберзагрози. Один посадовець описав вплив як подібний до оснащення звичайного хакера інструментами, схожими на ті, що використовують елітні оператори.

Попри ризики, влада продовжує взаємодіяти з Anthropic. Федеральні агенції готуються до можливо керованого доступу, тоді як регулятори та фінансові установи поспішають зрозуміти й опрацювати вразливості, які модель уже почала розкривати.