Брокеры внедряют OpenClaw, вызывая опасения! Нужна ли Тайваню инструкция по безопасности разведения омаров? Финансовое управление ответило

Автор: Ариэль, Шифрованный город

AI-агент OpenClaw с логотипом в виде омара стал мировым хитом, и правительство Китая уже выпустило «Руководство по безопасной разведке омаров», предупреждая о связанных рисках. Законодатель Лай Шибао отметил, что уже некоторые внутренние брокеры и аналитики фондового рынка постепенно внедряют OpenClaw. Если AI-агент ошибется при размещении заказа, кто будет нести ответственность? Он также призвал Финансовую комиссию разработать специальное руководство по безопасной разведке омаров для финансового сектора.
Пэн Цзинлун из Финансовой комиссии ответил депутатам, что сам не использует OpenClaw, но отметил, что такой феномен довольно распространён. Внутренние подразделения комиссии уже изучают возможные меры на будущее и собирают информацию о текущем использовании этой технологии финансовыми институтами.
Пэн Цзинлун подчеркнул, что ранее Финансовая комиссия выпустила «Руководство по использованию AI в финансовом секторе», в котором указано, что финансовые организации уже обладают определёнными механизмами информационной безопасности и внутреннего контроля при внедрении новых технологий. Если такие инструменты повлияют на операционную безопасность, их использование будет пересмотрено, и будет подготовлено соответствующее руководство по безопасности.

Шесть ключевых пунктов руководства по использованию AI в финансовом секторе:

• Создание системы управления и ответственности: Финансовые организации должны нести ответственность за работу AI-систем, назначить высших руководителей для контроля и создать соответствующую структуру, а также реализовать управление рисками и обучение персонала.
• Обеспечение справедливости и человекоцентричных ценностей: Следует избегать предвзятости алгоритмов, которая может привести к несправедливости, и придерживаться принципов человекоцентричности; генеративный AI должен контролироваться людьми для объективного управления рисками.
• Защита конфиденциальности и прав клиентов: Необходимо защищать личные данные и правильно управлять информацией клиентов; при предоставлении услуг с помощью AI нужно уважать право клиента на выбор и информировать о альтернативных вариантах.
• Обеспечение устойчивости и безопасности систем: AI-системы должны быть надёжными и безопасными, чтобы избежать ущерба; при использовании сторонних AI-решений необходимо осуществлять соответствующий риск-менеджмент и контроль.
• Обеспечение прозрачности и объяснимости: Работа AI должна быть прозрачной и объяснимой; при прямом взаимодействии с потребителями следует активно раскрывать необходимую информацию.
• Продвижение устойчивого развития: Использование AI должно сочетаться с принципами устойчивого развития, снижать неравенство и защищать окружающую среду; также необходимо обучать сотрудников для адаптации к изменениям и защищать их трудовые права.

Источник изображения: Генерация Gemini AI ｜ Основные пункты руководства по использованию AI в финансовом секторе (схема AI)

Отдел цифровых разработок уже ответил на вопросы о безопасности омаров
В связи с опасениями по поводу информационной безопасности, связанных с AI-агентами, руководитель отдела цифровых разработок Лин Йицзинь в тот же день на слушаниях отметил, что для решения вопросов безопасности и повышения технологической автономии Тайвань активно продвигает суверенный AI, чтобы модели AI, используемые правительством и ключевыми инфраструктурами, работали внутри страны и находились под юридическим контролем. Он также упомянул платформу NemoClaw, недавно запущенную Nvidia, которая сосредоточена на усилении защиты AI-агентов.
Для создания собственной вычислительной мощности Тайваня отдел цифровых разработок получил заявку от Foxconn на инвестиции в центр вычислительных ресурсов, а также ведёт переговоры с Министерством финансов и Финансовой комиссией о привлечении инвестиций страхового сектора, чтобы не полагаться полностью на зарубежные модели AI.

Что говорит руководство Китая о безопасной разведке омаров?
OpenClaw был создан австрийским инженером Петером Штайнбергером и первоначально стал популярным в технологическом сообществе. Установка и использование OpenClaw называют «разведкой омаров». Недавний рост популярности этой практики проник в китайский рынок, и обычные граждане также начали разводить омаров, а появились даже платные услуги по установке от инженеров.
В ответ Министерство государственной безопасности Китая выпустило руководство по безопасной разведке омаров, предупреждая о рисках, таких как взлом главных компьютеров, кража данных и искажение информации, призывая пользователей строго ограничивать область операций и по возможности запускать их в изолированных средах (например, виртуальных машинах или песочницах).

Где есть разведка омаров, там есть и их удаление
Несмотря на популярность разведки омаров, в китайском сообществе уже наблюдается переход от безумной установки к платному удалению омаров. По сообщению BBC, эксперты объясняют, что спад связан с очень высокой технологической сложностью и затратами на работу с OpenClaw, поскольку каждое действие требует затрат на вызов AI-модели.
Кроме того, существует серьёзная опасность для безопасности: Национальный центр реагирования на инциденты в интернете Китая отметил, что неправильное использование может привести к краже фотографий, платежных данных и другой чувствительной информации, а также к ошибкам AI, которые могут привести к случайному удалению данных. Для обычных пользователей в настоящее время эта программа практически не имеет значительного практического применения, что и вызвало волну удалений.