Les courtiers adoptent OpenClaw, suscitant des préoccupations ! Taiwan a-t-il besoin d'un manuel de sécurité pour l'élevage de homards ? La Commission financière répond

Auteur : Ariel, Ville de la Cryptomonnaie

L’agent AI avec un logo de homard (AI Agent) OpenClaw est devenu viral dans le monde entier. Le gouvernement chinois a publié un « Manuel de sécurité pour l’élevage de homards » pour rappeler les risques associés. Le député Lai Shibao a observé que certains courtiers et analystes boursiers locaux ont commencé à utiliser OpenClaw. Si l’agent AI passe une commande erronée, qui en assume la responsabilité ? Il appelle également la FSC à élaborer un manuel de sécurité spécifique à l’industrie financière pour l’élevage de homards.
La FSC, Peng Jinlong, a répondu au député qu’il n’utilisait pas personnellement OpenClaw, mais qu’il observait que cette pratique était assez courante. Les départements concernés de la FSC étudient déjà des mesures futures pour répondre à cette situation, afin de comprendre l’utilisation par les institutions financières.
Peng Jinlong a indiqué que la FSC avait déjà publié le « Guide pour l’utilisation de l’IA dans le secteur financier », le secteur financier ayant déjà des mécanismes de sécurité informatique et de contrôle interne pour les nouvelles technologies. Si ces outils affectent la sécurité opérationnelle, ils seront examinés et un manuel de sécurité sera élaboré.

Les six points clés du guide de la FSC pour l’utilisation de l’IA dans le secteur financier

• Établir un mécanisme de gouvernance et de responsabilité : Les institutions financières doivent assumer la responsabilité de leurs systèmes d’IA, désigner des cadres supérieurs pour superviser et établir une structure, mettre en œuvre la gestion des risques et la formation du personnel.
• Valoriser l’équité et une approche centrée sur l’humain : Éviter les biais algorithmiques qui pourraient causer des injustices, respecter le principe centré sur l’humain ; la production d’IA générative doit être contrôlée objectivement par du personnel pour gérer les risques.
• Protéger la vie privée et les droits des clients : Assurer la confidentialité et une gestion appropriée des données clients ; lors de l’utilisation de l’IA pour fournir des services, respecter le choix des clients et rappeler les alternatives.
• Garantir la robustesse et la sécurité du système : Assurer la stabilité et la sécurité des systèmes d’IA pour éviter tout dommage ; si des systèmes d’IA tiers sont utilisés, appliquer une gestion des risques et une supervision appropriées.
• Mettre en œuvre la transparence et l’explicabilité : Garantir que le fonctionnement de l’IA soit transparent et explicable ; lors d’interactions directes avec les consommateurs, divulguer activement les informations nécessaires.
• Promouvoir le développement durable : L’utilisation de l’IA doit intégrer des principes de durabilité, réduire les inégalités et protéger l’environnement ; en outre, former le personnel pour s’adapter aux changements et préserver leurs droits au travail.

Source : Généré par Gemini AI ｜ Six points clés du Guide de la FSC pour l’utilisation de l’IA dans le secteur financier (Diagramme illustratif de l’IA)

Le département de la gestion des données a répondu aux questions de sécurité de l’élevage de homards
Concernant les préoccupations de sécurité liées à l’agent AI, le ministre du Département de la gestion des données, Lin Yijing, a indiqué lors d’une audition le même jour que, pour résoudre les problèmes de sécurité et renforcer l’autonomie technologique, Taïwan pousse activement le développement d’une IA souveraine, afin de garantir que les modèles d’IA utilisés par le gouvernement et les infrastructures clés fonctionnent sur le territoire et soient soumis à une réglementation légale. Il a mentionné la plateforme NemoClaw récemment lancée par Nvidia, qui vise à renforcer la sécurité des agents AI.
Pour construire une puissance de calcul propre à Taïwan, le Département de la gestion des données a reçu une demande d’investissement de Foxconn pour un centre de calcul, et travaille avec le ministère des Finances et la FSC pour ouvrir l’investissement dans le secteur de l’assurance, afin d’éviter que tous les modèles d’IA taïwanais dépendent entièrement de l’étranger.

Que dit le manuel de sécurité pour l’élevage de homards en Chine ?
OpenClaw a été créé par l’ingénieur autrichien Peter Steinberger, qui a initialement connu un grand succès dans le secteur technologique. L’installation et l’utilisation d’OpenClaw sont appelées « élever un homard ». Récemment, cette tendance s’est répandue en Chine, où le public s’est mis à élever des homards, et des services payants d’installation par des ingénieurs ont émergé.
À ce sujet, le ministère de la Sécurité nationale chinoise a publié un manuel de sécurité pour l’élevage de homards, avertissant que OpenClaw comporte des risques natifs tels que la prise de contrôle de l’hôte, le vol de données et la manipulation de discours, appelant les utilisateurs à limiter strictement les opérations et à privilégier l’exécution dans des environnements isolés (machines virtuelles dédiées, sandbox).

Il y a des homards, il y a aussi des dé-homards
Bien que la tendance à élever des homards soit en plein essor, la communauté chinoise voit apparaître un phénomène de transition, passant d’une installation frénétique à un désinstallation payante. Le BBC a rapporté, citant des experts, que cette vague de retrait est due aux coûts élevés et à la complexité technique d’OpenClaw, chaque opération nécessitant des fonds pour invoquer le modèle d’IA.
De plus, le risque de sécurité est une grande préoccupation. Le Centre national d’urgence Internet chinois a indiqué que l’utilisation inappropriée pourrait entraîner le vol d’informations sensibles telles que photos ou comptes de paiement, voire des erreurs de l’IA entraînant la suppression accidentelle de données. Pour les utilisateurs ordinaires, l’utilité réelle de ce logiciel est limitée, ce qui explique cette vague de désinstallation.