У середу генеральний директор Anthropic Даріо Амодеї оприлюднив есе про політику, яке закликає запровадити обов’язкові вимоги до безпеки та примусове тестування в третіх сторін для фронтірних моделей ШІ, змодельоване за правилами FAA для авіації. Пропозиція вимагає тестування в чотирьох категоріях ризику: кібербезпека, біозброя, втрата контролю над ШІ та автоматизовані R&D, а також передбачає повноваження уряду блокувати небезпечні розгортання.

Оголошення політики збігається із запуском Anthropic Claude Mythos 5 — обмеженої фронтірної моделі для організацій із кібербезпеки та урядових партнерів. Компанія водночас випустила Claude Fable 5 — публічну версію, яка спрямовує чутливі запити до менш спроможної моделі як запобіжник проти зловживань.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

12год тому

Генеральний директор Anthropic закликає до надання уряду повноважень для блокування розгортання високоризикових моделей ШІ

13год тому

OpenAI планує IPO протягом року, орієнтується на оцінку в 1 трильйон доларів і допускає подачу документів у вересні

22год тому

ФСБ закликає до посилення контролю за агентним ШІ у фінансах: 52% фінансових компаній уже використовують його

06-10 00:44

Anthropic запускає Claude Fable 5 із публічним доступом, ціни становлять 10–50 доларів за мільйон токенів

06-10 00:41

Anthropic сьогодні оголосила Claude Fable 5 і Claude Mythos 5; Mythos пропонує знижені обмеження безпеки для експертів з кібербезпеки

Поглиблений аналіз