Le PDG d'Anthropic met en garde contre l'IA open source sur une 'voie dangereuse', évoque des risques de détournement irréversibles

Selon Odaily, Dario Amodei, PDG d'Anthropic, a récemment averti les législateurs américains que le développement de l'intelligence artificielle open-source s'engage dans une « voie très dangereuse ». Une fois que des modèles d'IA puissants sont publiés en open-source, les développeurs perdent une supervision efficace de l'utilisation du modèle, y compris l'incapacité de surveiller les abus, de révoquer l'accès ou de déployer des mises à jour de sécurité dynamiques, ce qui augmente considérablement les risques potentiels. Amodei a souligné que les modèles entièrement ouverts sont plus difficiles à maintenir une gouvernance de sécurité continue par rapport aux systèmes fermés, ce qui pourrait créer des risques d'abus irréversibles.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire