Останні дослідження штучного інтелекту від Google досить тривожні. Масивний ризик кібербезпеки для агентів ШІ

Очевидно, що веб-сайти «зламують» ваших агентів, таємно додаючи невидимі «пастки» всередині зображень або слів, які непомітні для людини:
- сайт визначає, що ваш ШІ переглядає сторінку, і створює візуально ідентичну сторінку з отруєними підказками.
- агенти потім виконують незаконні фінансові транзакції або крадуть особисті дані.
- приховані команди закопані всередині пікселів зображення. агенти «читають» їх і виконують зловмисну пастку.
- деякі вектори атак мають понад 80% успішності (наприклад, отруєння пам’яті)
- оскільки кожна модель ШІ тренується на 90% однакових даних, це означає, що кожна модель може бути під ризиком.
- це можна використовувати для маніпуляції людьми, які створили агент. фальшиві дані → змушують людину виконати небезпечну дію, навіть не усвідомлюючи цього.
Моделі ШІ використовуються у урядах, військових, науці та інших важливих сферах, ми не можемо собі дозволити цей ризик.
Я думаю, що занепокоєння Сема Альтмана щодо великої кібератаки сьогодні вранці є правильним.