Anthropic met en garde contre les risques d’auto-itération de l’IA, car Claude génère 80 % du code de l’entreprise

D’après Anthropic, Claude a automatiquement généré environ 80% du code de l’entreprise à la date de la semaine dernière, signalant un marqueur clé indiquant que les systèmes d’IA sont entrés dans une phase d’amélioration récursive et autonome — ce qui signifie que les modèles peuvent concevoir des systèmes d’IA de nouvelle génération sans intervention humaine.

Anthropic a souligné qu’à mesure que les capacités de l’IA progressent rapidement, la surveillance des comportements potentiellement incontrôlables et la mise en place de mécanismes de sécurité deviennent de plus en plus essentielles, d’après The Information.

Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire