Исследование Массачусетского технологического института (MIT) и Университета Квинсленда показывает 12% вероятность того, что к 2030 году ИИ-управляемое биологическое оружие приведёт к катастрофическим последствиям

Как сообщает Axios, совместное исследование MIT FutureTech и Университета Квинсленда, опубликованное сегодня, показывает, что 272 исследователя, оценивавшие 24 риска, связанные с ИИ, выявили 12%-ную вероятность того, что возможности ИИ могут привести к катастрофическим последствиям — определяемым как более 1 миллиона смертей или более 100 миллиардов долларов в убытках — до 2030 года при наличии текущих мер по снижению рисков. Та же вероятность относится к ИИ-управляемому оружию и массовому вреду. Без мер по снижению рисков этот риск превышает 20%. Исследование отнесло к категориям с самым высоким риском ИИ-помощь при создании химического и биологического оружия.

Несколько лидеров крупнейших ИИ-компаний также выпустили совместное публичное письмо с предупреждением о рисках биологического оружия, основанного на ИИ, призвав к более тщательным аудитам возможностей моделей и мерам безопасности, особенно с учетом потенциального злоупотребления моделями с открытым исходным кодом.