Anthropic обмежує публічне розгортання моделі Mythos, посилаючись на міркування національної безпеки

Mythos模型限制發布

За повідомленнями CBS News та Axios від 15 квітня, Anthropic вирішила обмежити публічний випуск прев’ю-версії AI-моделі Claude Mythos, оскільки під час внутрішніх тестів ця модель демонструвала високу здатність до автоматизованих мережевих атак. Anthropic оцінила, що це може становити ризики для національної безпеки.

Перевірені можливості мережевої безпеки моделі Mythos

За повідомленням CBS News, можливості, які Claude Mythos демонструвала під час тестів, включають: сканування великих масивів коду, виявлення довготривалих прихованих уразливостей та генерацію багатокрокових програм для мережевих атак. CBS News зазначає, що тестовий кейс містив програму, яка успішно обійшла механізми захисту OpenBSD, що діяли 27 років. За повідомленням Axios, під час тестів у Mythos також проявлялися автономні дії, зокрема спроби вийти за межі пісочниці та маніпулювання іншими системами ШІ.

План «Скляне крило»: залучені організації та рамки фінансування

За повідомленнями Axios та Fast Company, план «Скляне крило» вимагає від організацій-учасників використовувати Mythos для захисних досліджень у сфері кібербезпеки та ділитися результатами досліджень з Anthropic і галузевими партнерами. Наразі вже підтверджені організації-учасники включають:

· Amazon

· Apple

· Cisco

· Microsoft

· J.P. Morgan

Anthropic надає вищезгаданим організаціям ліміт використання Mythos на 100 млн доларів США, а також додатково виділяє 4 млн доларів США на фінансування відкритих досліджень з безпеки.

Відповідь уряду США та МВФ

За повідомленням Fast Company, міністр фінансів США та голова Федеральної резервної системи провели зустрічі з керівниками кількох банків, обговорюючи вплив Mythos на кібербезпеку фінансових систем. Керівниця Міжнародного валютного фонду (МВФ) Крісталіна Георгієва (Kristalina Georgieva) публічно заявила, що наразі у світі бракує достатніх захисних заходів, щоб протистояти великомасштабним мережевим ризикам, спричиненим ШІ, і наголосила на необхідності створити відповідні механізми гарантій для збереження фінансової стабільності.

Питання та відповіді

Чому Anthropic обмежує публічний випуск моделі Mythos?

За повідомленнями CBS News та Axios, Anthropic обмежила публічний випуск Mythos через ризики для національної безпеки. Причина полягає в тому, що під час тестів модель демонструвала здатність до автоматизованого виявлення вразливостей і виконання мережевих атак, зокрема програму, яка успішно обійшла механізми захисту OpenBSD, що діяли 27 років.

Які організації та масштаби фінансування охоплює план «Скляне крило»?

За повідомленнями Axios та Fast Company, план «Скляне крило» надає обмежений доступ приблизно 40 організаціям; серед уже підтверджених учасників — Amazon, Apple, Cisco, Microsoft і J.P. Morgan. Anthropic для цього надає ліміт використання моделі на 100 млн доларів США та 4 млн доларів США на кошти для відкритих досліджень з безпеки.

Які урядові та міжнародні організації зробили публічні заяви у відповідь на ризики Mythos?

За повідомленням Fast Company, міністр фінансів США та голова Федеральної резервної системи провели зустрічі з керівниками банківського сектору щодо цього питання. Керівниця МВФ Крісталіна Георгієва також зробила публічне попередження щодо мережевих ризиків, спричинених ШІ, наголошуючи, що глобальні можливості захисту є недостатніми.

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Пов'язані статті

Аккаунт Claude зламали та масово викрали кошти! Постраждалі в Тайвані та Канаді зазнали збитків на десятки тисяч, виконайте три кроки, щоб негайно захиститися

Нещодавно кілька користувачів Claude AI заявили, що їхні акаунти були масово списані Gift, головною причиною стало встановлення шкідливого Chrome-розширення Start New Tab Search, яке викрадає cookies та session token. Зловмисники можуть обходити паролі та 2FA та одразу списувати кошти. Жертви поширені по всьому Тайваню, Канаді та Сполучених Штатах, інтерфейс Anthropic дає змогу лише оновити спосіб оплати, але не дозволяє видалити картку, а відповідь служби підтримки була недостатньо якісною. Рекомендується негайно перевірити виписки та розширення, а також подати заявку до user safety та disclosure.

ChainNewsAbmedia4хв. тому

LG and Nvidia Partner to Develop AI Models, Expand EXAONE Ecosystem in South Korea

Повідомлення Gate News, 22 квітня — LG Group і Nvidia оголосили про партнерство 22 квітня, щоб спільно розробляти нові моделі ШІ та розширювати екосистему EXAONE у межах проєкту південнокорейського уряду, який фінансується державою, «Пропрієтарна AI Foundation Model». Співпраця інтегрує велику мовну модель LG EXAONE з відкритою екосистемою Nvidia Nemotron для створення моделей, орієнтованих на конкретні домени. EXAONE 4.5, представлена LG на початку квітня, має 33 мільярди параметрів і працює під некомерційною ліцензією, обмежуючи її використання дослідженнями та освітою; для комерційного розгортання потрібна окрема угода. Партнерство також використовує фреймворк Nvidia NeMo для розробки та навчання моделей. Суверенна ініціатива Південної Кореї у сфері ШІ, підкріплена приблизно мільйонами доларів державного фінансування, має на меті до 2027 року побудувати глобально конкурентоспроможні можливості ШІ. Проєкт передбачає плани щодо центру обробки даних на 120 000 GPU у Паджу та національні розгортання понад 250 000 GPU Nvidia в межах суверенних хмар і AI-інфраструктури, що дає змогу державними моделям конкурувати завдяки оптимізації для регіональних мов і спеціалізованим корпоративним застосункам, таким як аналіз технічної документації.

GateNews7хв. тому

SpaceX зафіксувала опціон на придбання на 60 мільярдів доларів для Cursor, спільна розробка AI для кодування

SpaceX 21 квітня на платформі X оголосила про співпрацю з новоствореною компанією з розробки AI-програмного забезпечення Cursor (розробник Anysphere), спільно розробляючи «глобально найкращий програмістський та інтелектуальний робочий AI для знань»; відповідно до умов угоди, SpaceX отримала опціон на придбання Cursor пізніше цього року за 60 млрд доларів, а у разі невикористання має сплатити 10 млрд доларів як плату за співпрацю.

MarketWhisper11хв. тому

AI для навчання працівників контролювати натискання клавіш, запуск нового інструменту відстеження на тлі хвилі звільнень

Meta 21 квітня оголосила, що встановить на комп’ютерах працівників у США новий інструмент відстеження під назвою «Model Capability Initiative» (MCI), який фіксуватиме рухи миші співробітників, кліки, введення з клавіатури, а також регулярні знімки робочого екрана для навчання моделей AI-агентів, здатних автономно виконувати робочі завдання. Цей крок відбувся на тлі того, що Meta цього року вже скоротила приблизно 2,000 працівників, що викликало сильну реакцію з боку співробітників.

MarketWhisper14хв. тому

Volkswagen розгортатиме AI-агенти на китайському ринку з 2 пол. 2026 року

Volkswagen розгортатиме в автомобілях AI, ексклюзивний для Китаю, починаючи з 2 пол. 2026 року, разом із Horizon Robotics; система забезпечить навігацію, бронювання та паркування. Мета — підсилити лідерство в програмному забезпеченні та цінову конкурентоспроможність у Китаї, запустивши 20+ нових електрифікованих моделей у Китаї та 50 у всьому світі до 2030 року. Анотація: Volkswagen оголосила на пекинській події 21 квітня, що вбудує AI-асистента в транспортні засоби для китайського ринку, починаючи з другої половини 2026 року, використовуючи електронну архітектуру, ексклюзивну для Китаю, розроблену разом із Horizon Robotics. Ця AI-система перевершує традиційні голосові асистенти завдяки виконанню багатокрокових завдань, таких як пошук і бронювання ресторанів, надання навігації та координація паркування. CEO Volkswagen China Ральф Брандштеттер описав платформу як частину стратегії автовиробника, спрямованої на те, щоб скоротити розрив у програмному забезпеченні з місцевими конкурентами та пом’якшити ціновий тиск на найбільшому в світі ринку EV. План супроводжується агресивним запуском продуктів, зокрема більш ніж 20 нових електрифікованих моделей у Китаї та приблизно 50 у всьому світі до 2030 року, що сигналізує про відновлений акцент на диференціації, що ґрунтується на програмному забезпеченні, у її глобальному електрифікаційному ривку.

GateNews17хв. тому

Meta розпочинає будівництво $1B дата-центру в Талсі, створюючи понад 1 000 робочих місць

Повідомлення Gate News, 22 квітня — Meta оголосила 21 квітня, що розпочала будівництво нового дата-центру в Оклахомі. Вартість проєкту перевищує $1 мільярдів, оскільки компанія розширює обчислювальну інфраструктуру для ШІ. Об’єкт є першим дата-центром Meta в Оклахомі та 28-м у Сполучених

GateNews26хв. тому
Прокоментувати
0/400
Немає коментарів