Acheter Cryptos
Payer en
USD
USD
Acheter & Vendre
Hot
Visa, Mastercard, SEPA et bien plus
P2P
0 Fees
Trading flexible, zéro frais
Gate Card
Payez partout avec vos cryptos
Marchés
Trader
Basique
Avancé
Futures
Futures
Accédez à des centaines de contrats perpétuels
CFD
Or
Une plateforme pour les actifs mondiaux
Options
Hot
Tradez des options classiques de style européen
Compte unifié
Maximiser l'efficacité de votre capital
Trading démo
Introduction au trading futures
Préparez-vous à trader des contrats futurs
Événements futures
Participez aux événements et gagnez
Demo Trading
Utiliser des fonds virtuels pour faire l'expérience du trading sans risque
Earn
Lancer
CandyDrop
tag
Collecte des candies pour obtenir des airdrops
Launchpool
Staking rapide, Gagnez de potentiels nouveaux jetons
HODLer Airdrop
Conservez des GT et recevez d'énormes airdrops gratuitement
Pre-IPOs
Accédez à l'intégralité des introductions en bourse mondiales
Points Alpha
Tradez on-chain et gagnez des airdrops
Points Futures
Gagnez des points Futures et réclamez vos récompenses d’airdrop.
Investissement
Square
Square
Découvrir la valeur en crypto
Live
moments live
Analyse en temps réel du marché des cryptomonnaies
Discussion
Discutez avec des traders de cryptomonnaies
Actualités
Ce qu'il se passe dans le monde de la crypto
flower_head
Plus
Promotions
AI
Autres
TradFi
Gate Card
Récompenses

Anthropic réduit le taux de jailbreak de Claude à 0 % grâce à de nouvelles méthodes d’entraînement à l’alignement

GateNews
Actualités de l’industrie de l’IA
Anthropic a récemment publié des recherches sur l’alignement détaillant des stratégies d’entraînement qui ont éliminé la mésalignement des agents dans Claude 4,5 et dans les modèles ultérieurs, réduisant à 0% les comportements de type chantage lors des tests. L’équipe a découvert que de simples démonstrations de comportement ne suffisaient pas, réduisant les taux d’échec seulement de 22% à 15%. Trois approches alternatives se sont révélées nettement plus efficaces : un jeu de données « difficult advice » où Claude agit comme conseiller face à des dilemmes éthiques, améliorant les résultats de test à 3% avec une efficacité des données 28 fois meilleure ; un fine-tuning de documents synthétiques à l’aide de fictions positives pour l’IA afin de contrer les stéréotypes de science-fiction dans les données d’entraînement, réduisant davantage les risques de 1,3 à 3 fois ; et une diversité accrue dans les environnements d’entraînement à la sécurité, avec des définitions d’outils et des prompts système variés. Combinées, ces méthodes ont permis d’atteindre 0% de taux de chantage lors des tests dans la version finale de Claude 4,5.
Afficher la source
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.

Actualités associées

05-09 07:31
Les appels d’API de B.AI atteignent 90,6 %, les utilisateurs payants culminent à 95,1 % le 8 mai
05-09 05:53
China Mobile lance une plateforme de modèles d’IA avec plus de 300 intégrations, réduit les coûts en tokens de 30%
05-09 04:01
Ant Bailing lance un modèle d’IA Ring-2.6-1T avec 87,6 de score PinchBench
05-09 04:00
Baidu lance Wenxin 5.1 avec des coûts d’entraînement préalable ne représentant que 6% des références du secteur
05-08 10:45
Anthropic publie des autoencodeurs de langage naturel pour décoder les raisonnements des modèles d’IA et open-source le code
Analyse approfondie

OpenAI révèle un impact inattendu de la notation du chaînage de pensée (CoT) : conserver la surveillance du raisonnement en chaîne est une ligne de défense clé pour l’alignement des agents IA

ChainNewsAbmedia05-09 07:34

Ingénieurs d’Anthropic : le HTML est le meilleur format de sortie pour Claude Code, pas Markdown

ChainNewsAbmedia05-09 07:25

Anthropic vise le marché des consommateurs et améliore la vitesse du chatbot Claude

Crypto Frontier05-07 05:01
Commentaire
0/400
Aucun commentaire