Официальные лица США предупреждают Уолл-стрит о рисках ИИ Anthropic

Флаги по модели Mythos указывают на риск безопасности

Основное внимание уделяется модели Mythos от компании Anthropic, которая, как утверждается, обнаруживает и использует уязвимости в операционных системах и веб-платформах. Кроме того, компания признала, что модель способна имитировать атаки при провокации в контролируемых условиях. В связи с этим власти рассматривают такие возможности как потенциальную угрозу, если ими злоупотребляют недобросовестные лица. Это усилило пристальное внимание в финансовой и нормативной сферах. Anthropic располагает ограниченным доступом к Mythos и развивает оборонительные приложения в рамках проекта Project Glasswing. В инициативе участвуют крупные компании вроде Amazon, Apple и JPMorgan Chase. Кроме того, в процесс вовлеклись такие организации, как Google, NVIDIA и Linux Foundation. Предлагая повысить безопасность программного обеспечения с помощью AI-обнаружения уязвимостей, эти группы преследуют эту цель.

Компания вложила много ресурсов в продвижение инициативы и расширение оборонительного направления. Anthropic предоставила до 100 миллионов кредитов на использование и 4 миллиона прямого финансирования. Кроме того, более 40 организаций, контролирующих критически важную инфраструктуру, получили возможность доступа к системе. Эта совместная работа направлена на выявление и устранение дефектов высокой степени тяжести в популярном ПО. Anthropic остается в фокусе на фоне изменений в правовых и нормативных разработках. Администрация Трампа попыталась принять меры против компании в рамках ее классификации, но федеральный суд в Сан-Франциско остановил это. Судья Рита Лин постановила, что обозначение не основано существенно на предписаниях закона. Поэтому это решение оказалось кратковременным послаблением, поскольку AI-компании остаются под пристальным наблюдением.

Компания зафиксировала устойчивый рост финансовых показателей, и ее годовые повторяющиеся доходы резко увеличились в последние несколько месяцев. Это усилило интерес и со стороны технологий, и со стороны финансов. Кроме того, аналитики по-прежнему оценивают общий эффект для конкурирующих компаний, таких как Palantir Technologies. Участники рынка следят за тем, как внедрение AI влияет на конкуренцию в отрасли. Самые последние инновации в Anthropic привели к росту интереса к AI-безопасности, требованиям регулирования и последствиям для рынка. Эти вопросы остаются значимыми в дебатах по политике и в планировании финансовой готовности.

Эта статья была первоначально опубликована как US Officials Warn Wall Street About the Risks of Anthropic AI on Crypto Breaking News – ваш надежный источник новостей о криптовалюте, новостей о Bitcoin и обновлений по блокчейну.