Генеральний директор Anthropic закликає запровадити обов’язкові аудити безпеки ШІ після релізу Claude Fable 5

Генеральний директор Anthropic Даріо Амодеї опублікував політичний есе 10 червня, закликавши до обов’язкового незалежного тестування передових моделей ШІ, а також до надання урядовим органам повноважень блокувати системи, які не проходять перевірки безпеки. Есе під назвою «Policy on the AI Exponential» надійшло через день після того, як Anthropic випустила Claude Fable 5, і супроводжувалося законодавчою пропозицією щодо тестування моделей та рамкою для витіснення робочих місць. Амодеї заявив, що однієї лише прозорості вже недостатньо, щоб відповідати ризикам, які створює швидке просування технологій ШІ. У 2025 році Anthropic підтримувала закони про розкриття інформації, зокрема SB 53 у Каліфорнії, RAISE Act у Нью-Йорку та SB 315 в Іллінойсі, але тепер Амодеї пропонує режим, змодельований за Федеральною авіаційною адміністрацією (FAA): моделі, що перевищують поріг обчислень, мають проходити обов’язкові аудити в чотирьох сферах: кібербезпека, біологічна зброя, втрата контролю та автоматизовані дослідження ШІ.

Амодеї пропонує обов’язкові незалежні аудити ШІ

Пропозиція Амодеї вимагає від передових моделей ШІ, які перевищують поріг обчислень, проходити обов’язкові незалежні аудити в чотирьох сферах: кібербезпека, біологічна зброя, втрата контролю та автоматизовані дослідження ШІ. «Передові моделі ШІ, як літаки, мають бути зобов’язані пройти технічне тестування та аудит, а їхній реліз має бути заблокований або скасований як загроза для безпеки населення, якщо вони не відповідають високим стандартам безпеки», — написав Амодеї в есе. План виходить за межі Джуніорського виконавчого указу Білого дому щодо ШІ від 10 червня, який Амодеї схвалив як поступовий крок. Пропозиція включає звітування про інциденти безпеки запитів (prompt safety) та суворий захист ваг моделей.

Попередній огляд Claude Mythos розв’язав 73% експертних кіберзавдань

Амоедеї визначив кібербезпеку як перший ризик, який повністю матеріалізувався, вказавши на Claude Mythos Preview, який розв’язав 73% експертних кіберзавдань, які жоден ШІ до того не проходив. Есе попереджає, що передові моделі можуть порушити роботу фінансового сектору та критичної інфраструктури. Anthropic 9 червня відправила модель Claude Fable 5 із запобіжниками, які блокують запити з високим ризиком щодо кібернетики та біології. Амодеї заявив, що такі добровільні обмеження не можуть замінити обов’язкові правила в масштабі всієї індустрії. Власні дані Anthropic показують, що ШІ створює кращий ШІ: Claude пише більшість коду в провідних AI-лабораторіях.

Anthropic пропонує страхування зарплат і гранти на підготовку кадрів

В есе пропонується страхування зарплат, податкові стимули для утримання працівників і гранти на підготовку кадрів, щоб упоратися з економічним витісненням. Якщо витіснення виявиться тривалим, Амодеї заявив, що універсальний базовий дохід можна фінансувати через податки на компанії або податки на приріст капіталу. Щодо громадянських свобод Амодеї закликає заборонити повністю автономну зброю в системі внутрішнього правоохоронного застосування та закликає Конгрес закрити лазівку через посередників даних, яка дає змогу купувати оптові системи для масового спостереження. У геополітичному вимірі він закликає створити коаліцію демократій для контролю чипів і обладнання для виробництва напівпровідників, називаючи законопроєкти MATCH і OVERWATCH, які перебувають на розгляді в США, як перші кроки до більш жорстких та узгоджених експортних обмежень.

FAQ

Що запропонував Даріо Амодеї 10 червня? Даріо Амодеї опублікував есе під назвою «Policy on the AI Exponential» 10 червня, пропонуючи обов’язкове незалежне тестування передових моделей ШІ, а також надання урядових повноважень блокувати системи, які не проходять перевірки безпеки у чотирьох сферах: кібербезпека, біологічна зброя, втрата контролю та автоматизовані дослідження ШІ.

Чому Амодеї назвав кібербезпеку першим ризиком, який повністю матеріалізувався? Амоедеї послався на Claude Mythos Preview, який розв’язав 73% експертних кіберзавдань, які жоден ШІ до того не проходив, попереджаючи, що передові моделі можуть порушити роботу фінансового сектору та критичної інфраструктури.

Які економічні заходи запропонував Anthropic у есе? Anthropic запропонував страхування зарплат, податкові стимули для утримання працівників і гранти на підготовку кадрів, щоб вирішити проблему витіснення робочих місць, а універсальний базовий дохід має фінансуватися через податки на компанії або податки на приріст капіталу, якщо витіснення виявиться тривалим.