Кратко
- Официальные лица США предупредили крупные банки о рисках кибербезопасности, связанных с AI-моделью Mythos от Anthropic, сообщает Bloomberg.
- Сообщается, что система может выявлять и использовать уязвимости в операционных системах и браузерах.
- У Anthropic ограничен доступ к модели, пока она оценивает потенциальные риски для безопасности.
По сообщениям, министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл на этой неделе ранее созвали встречу с генеральными директорами банков Уолл-стрит, чтобы предупредить о рисках кибербезопасности, связанных с новой моделью искусственного интеллекта от Anthropic.
Согласно отчету Bloomberg, в совещании участвовали руководители Citigroup, Bank of America, Wells Fargo, Morgan Stanley и Goldman Sachs. Чиновники обсудили новую AI-модель Anthropic Mythos, которая недавно вызвала широкую обеспокоенность из-за, как утверждается, ее передовых возможностей в сфере кибербезопасности.
Официальные лица созвали встречу, чтобы гарантировать, что банки понимают риски, связанные с системами, способными выявлять и использовать уязвимости программного обеспечения в разных операционных системах и веб-браузерах, а также чтобы побудить организации усилить защиту от потенциальных кибератак, поддержанных AI, на финансовую инфраструктуру.
Исследователи по безопасности предупреждали, что инструменты, способные автоматически находить уязвимости, могут ускорить как защитную работу в области безопасности, так и вредоносный взлом, если ими злоупотреблять.
Модель Mythos от Anthropic впервые появилась в сети в марте после того, как черновые материалы о системе просочились в интернет, и стало видно, что компания описывает ее как свою самую способную AI-модель на сегодняшний день. В ходе тестирования, как сообщается, система находила тысячи ранее неизвестных уязвимостей в ПО, включая уязвимости zero-day в крупных операционных системах и веб-браузерах.
Исследователи Anthropic сообщили в отчете на этой неделе, что возможности Mythos Preview по обнаружению уязвимостей не обучались намеренно, а возникли в результате более широких улучшений модели в части кодирования, рассуждений и автономности.
«Те же улучшения, которые делают модель существенно более эффективной при устранении уязвимостей, также делают ее существенно более эффективной при их использовании», — написала компания.
Из-за этих возможностей Anthropic ограничила доступ к модели небольшой группой организаций в сфере кибербезопасности.
«Учитывая силу ее возможностей, мы намеренно подходим к тому, как выпускаем ее», — заявила Anthropic в своем сообщении. «Как это принято в отрасли, мы работаем с небольшой группой клиентов с ранним доступом, чтобы протестировать модель. Мы считаем эту модель шагом качественного изменения и самой способной из того, что мы создали на сегодняшний день».
Чтобы устранить этот риск, Anthropic тестирует Mythos в рамках проекта Project Glasswing — сотрудничества с крупными технологическими и компаниями в сфере кибербезопасности, которое использует модель для выявления и устранения уязвимостей в критически важном ПО до того, как злоумышленники смогут их эксплуатировать.
«Project Glasswing — это отправная точка. Ни одной организации не под силу решить эти проблемы кибербезопасности в одиночку», — говорится в сообщении компании. «Разработчики Frontier AI, другие компании-разработчики ПО, исследователи по безопасности, поддерживающие open source и правительства по всему миру — у всех есть важные роли».
Anthropic не ответила незамедлительно на запрос Decrypt о комментариях.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Claude Mythos: угроза финансовой безопасности? Министр финансов США и председатель ФРС срочно собрались, чтобы предупредить о рисках
Министр финансов США и председатель Федеральной резервной системы созвали руководство Уолл-стрит и предупредили, что ИИ-модель Mythos может представлять системный риск для финансовой системы. Mythos самостоятельно обнаруживает множество уязвимостей, Anthropic решила ограничить её публичный выпуск и запустила «Проект “Glass Wing”» для усиления кибербезопасности.
CryptoCity2ч назад
Anthropic нанимает лоббистскую компанию Ballard Partners, ранее переговоры с Пентагоном сорвались из-за ограничений на использование ИИ
Anthropic 14 апреля объявила о сотрудничестве с лоббистской компанией Ballard Partners, чтобы улучшить отношения с Пентагоном. Ранее стороны не смогли договориться из‑за разногласий по поводу того, как именно должна использоваться ИИ-технология: Пентагон хочет, чтобы его инструменты применялись без ограничений, а Anthropic настаивает на ограничении их использования для полностью автономного оружия и наблюдения. Это решение свидетельствует о заметном росте инвестиций в политическую коммуникацию в индустрии ИИ.
GateNews2ч назад
Внутренний меморандум OpenAI оказался в открытом доступе: в нём напрямую указывается на то, что у Anthropic нарратив строится на страхе, а также что «вычислительные мощности отстают, и выручка раздувается».
Конкуренция в области искусственного интеллекта усиливается: в своем внутреннем меморандуме OpenAI подчеркивает необходимость укреплять позиции на корпоративном рынке, повышать удержание пользователей и критикует стратегические ошибки конкурента Anthropic и преувеличение финансовых показателей, указывая на его слабости в плане вычислительных мощностей и продуктовой стратегии. OpenAI планирует развиваться в направлении интегрированной платформы с множеством продуктов, используя преимущество в вычислительных ресурсах для достижения лидерства на рынке.
ChainNewsAbmedia3ч назад
ИИ в медицине вызывает дискриминацию! Высокодоходные пациенты получают точные обследования, а афроамериканцам и бездомным рекомендуют инвазивное лечение
Последние исследования указывают, что медицинский ИИ на основе дохода пациентов, расы и других факторов дает разные медицинские рекомендации, в результате чего людям с высоким доходом рекомендуют более дорогостоящие обследования, а уязвимые группы чаще сталкиваются с неправомерными медицинскими вмешательствами, что может усилить предвзятость и риск клинических ошибок. Эксперты призывают создать механизмы мониторинга, чтобы обеспечить медицинскую справедливость.
ChainNewsAbmedia3ч назад
Инвесторы OpenAI ставят под сомнение оценку компании в $852 млрд, заявляя, что стратегический разворот или угроза конкуренции могут быть реальными
Новости Gate News, 14 апреля, The Financial Times сообщила, что инвесторы OpenAI сомневаются в ее оценке в 852B долларов, считая, что стратегия компании меняется. Некоторые инвесторы заявили, что эти стратегические изменения могут сделать OpenAI более уязвимой для угроз со стороны конкурентов, таких как Anthropic и Google.
GateNews4ч назад
Боссу больше не нужно заходить в офис! Meta создает цифрового двойника Цукерберга; по любым вопросам напрямую спрашивайте ИИ
Meta разрабатывает AI-копию на основе генерального директора Марка Цукерберга, чтобы укрепить связь между сотрудниками и руководством. Этот цифровой двойник будет использовать изображения, голос и стратегическое мышление Цукерберга, чтобы около 80k сотрудников могли с ним взаимодействовать. Этот план отличается от «CEO-агента», который является инструментом поддержки принятия решений. Долгосрочная цель Meta — развивать «сверхразум» AI и попытаться применить эту технологию к мировым инфлюенсерам и создателям контента.
ChainNewsAbmedia4ч назад
