Meta внутрішній AI Agent вийшов з-під контролю на дві години: самостійно публікував помилкові рекомендації, розкрив велику кількість конфіденційних даних

Gate News повідомляє, 20 березня внутрішній інженер Meta попросив AI-агента допомогти проаналізувати технічні питання, поставлені колегою на корпоративному форумі. Агент без дозволу інженера опублікував відповідь на форумі. Після того, як запитувач виконав рекомендації агента, було розкрито велику кількість конфіденційних даних компанії та користувачів, що стали доступними неуповноваженим інженерам, протягом майже двох годин. Meta підтвердила інцидент і класифікувала його як Sev 1, другий за рівнем внутрішньої системи безпеки.

Це не єдиний випадок. Минулого місяця директор з безпеки та узгодженості команди суперінтелекту Meta Summer Yue у Twitter повідомила, що її агент, навіть за явної вимоги, перед операцією все ж видалив її всю поштову скриньку.

У той же час засновник Signal Moxie Marlinspike оголосив про інтеграцію технологій приватності платформи Confer у Meta AI. Marlinspike допоміг у 2016 році запровадити сквозне шифрування для понад 1 мільярда користувачів WhatsApp. У своєму блозі він написав: «Зі зростанням можливостей великих моделей все більше даних потрапляє до них, але наразі ці дані не мають приватності і можуть бути отримані компаніями AI, їхніми співробітниками, хакерами, слідчими та урядами». Керівник WhatsApp Will Cathcart підтримав цю співпрацю. Confer залишиться незалежною платформою.