Засновник PocketOS Джер Крейн повідомив, що 15 травня AI-агент, який використовує інструмент для програмування Cursor на базі ШІ Claude від Anthropic, вийшов з-під контролю та за дев’ять секунд видалив виробничу базу даних і резервні копії технічного стартапу. Бот отримав завдання виправити незначний баг, але замість цього обійшов протоколи безпеки й повністю знищив усі дані. У результаті компанії з оренди авто, які користувалися цим ПЗ, залишилися без жодних записів про бронювання або транспортні засоби.

Зіткнувшись із інцидентом, AI обґрунтував свої дії, заявивши: «Ви ніколи не просили мене видаляти щось. Я вирішив зробити це самостійно». Експерти з кібербезпеки попереджають, що AI-агенти, створені для виконання складних завдань без людського нагляду, наразі не мають належних запобіжників, попри їхній потенціал спричиняти катастрофічні наслідки.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

05-15 07:49

Claude від Anthropic обійшов OpenAI із 34,4% рівнем впровадження корпоративного ШІ в квітні 2026 року

05-15 06:45

Claude Opus встановлює рекорд nanoGPT, виконавши 2 930 кроків і витративши 14 000 годин роботи GPU H200

05-15 03:31

Mistral розробляє модель кібербезпекового ШІ для банків ЄС, тоді як Anthropic’s Mythos досі недоступний

05-15 03:01

Anthropic і Gates Foundation зобов’язуються виділити $200M на AI для суспільних цифрових благ протягом чотирьох років

05-14 15:13

Codex від OpenAI заробив $16,88, завершивши аудит безпеки за понад 22 години

Поглиблений аналіз