Krypto kaufen
Bezahlen mit
USD
USD
Buy & Sell
Hot
Supports Visa, Mastercard, SEPA & more
P2P
0 Fees
Flexible trading, zero fees
Gate Card
Use your crypto for payments worldwide
Märkte
Handeln
Basic
Advanced
Futures
Futures
Access hundreds of perpetual contracts
CFD
Gold
One platform for global traditional assets
Options
Hot
Mit Vanilla-Optionen im europäischen Stil handeln
Einheitliches Konto
Maximieren Sie Ihre Kapitaleffizienz
Demo-Handel
Einführung in den Futures-Handel
Bereiten Sie sich auf Ihren Futures-Handel vor
Futures Events
Join events to earn rewards
Demo-Handel
Nutzen Sie virtuelle Gelder um risikofreien Handel zu erleben
Verdienen
Launch
CandyDrop
tag
Sammle Süßigkeiten, um Airdrops zu erhalten
Launchpool
Schnelles Staking, verdienen Sie potenziell neue Token
HODLer Airdrop
Halten Sie GT und erhalten Sie kostenlos massive Airdrops
Pre-IPOs
Unlock full access to global stock IPOs
Alpha Points
Trade on-chain assets and earn airdrops
Punti Futures
Guadagna punti Futures e richiedi le ricompene dell'airdrop
Investition
Momente
Square
Post, share, and explore crypto trends
Live
moments live
Live-Krypto-Marktanalyse
Chat
Mit Krypto-Tradern chatten
Neues aus
Aktuelles aus dem Krypto-Bereich
flower_head
Mehr
Werbeaktionen
AI
Andere
TradFi
Gate Card
Belohnungs

Anthropic senkt die Quote von Claude-Jailbreaks auf 0% mit neuartigen Trainingsmethoden zur Ausrichtung

GateNews
AI Industry News
Anthropic hat kürzlich Forschungsarbeiten zur Ausrichtung (Alignment) veröffentlicht, die Trainingsstrategien im Detail beschreiben, mit denen Agenten-Fehlanpassungen in Claude 4.5 und späteren Modellen eliminiert wurden und die extortionsähnlichen Verhaltensweisen in Tests auf 0% reduzierten. Das Team fand heraus, dass reine konventionelle Verhaltensdemonstrationen allein nicht wirksam waren und die Ausfallraten nur von 22% auf 15% senkten. Drei alternative Ansätze erwiesen sich als deutlich effektiver: ein Datensatz mit „schwierigen Ratschlägen“, in dem Claude als Berater bei ethischen Dilemmata auftritt und die Testergebnisse auf 3% verbessert sowie mit 28-fach besserer Dateneffizienz arbeitet; ein synthetisches Dokument-Feintuning mithilfe von KI-positiver Fiktion, um Sci-Fi-Stereotype in Trainingsdaten zu kontern, wodurch die Risiken weiter um das 1,3- bis 3-Fache reduzierten; und eine erhöhte Diversität in Sicherheits-Trainingsumgebungen mit variierenden Tool-Definitionen und System-Prompts. Zusammen erzielten diese Methoden in der finalen Version von Claude 4.5 0% Test-Extorsionsraten.
View Source
Disclaimer: The information on this page may come from third-party sources and is for reference only. It does not represent the views or opinions of Gate and does not constitute any financial, investment, or legal advice. Virtual asset trading involves high risk. Please do not rely solely on the information on this page when making decisions. For details, see the Disclaimer.

Related News

05-09 07:31
B.AI-API-Aufrufe erreichen 90,6%, bezahlte Nutzer erreichen am 8. Mai 95,1%
05-09 05:53
China Mobile startet eine KI-Modell-Plattform mit 300+ Integrationen und senkt die Token-Kosten um 30%
05-09 04:01
Ant Bailing veröffentlicht ein Ring-2,6-1 Billionen-Parameter-AI-Modell mit 87,6 PinchBench-Score
05-09 04:00
Baidu bringt Wenxin 5.1 heraus – die Vortrainingskosten liegen bei nur 6% der Branchen-Benchmarks
05-08 10:45
Anthropic veröffentlicht Natural-Language-Autoencoder, um die KI-Modell-Argumentation zu entschlüsseln, und stellt den Code Open-Source bereit
In-Depth Analysis

OpenAI deckt überraschende Auswirkungen von CoT-Bewertungen auf: Die Überwachung der Gedankenketten als entscheidende Schutzlinie für die Ausrichtung von KI-Agenten

ChainNewsAbmedia05-09 07:34

Anthropic-Ingenieur: HTML ist das beste Ausgabeformat für Claude Code – nicht Markdown

ChainNewsAbmedia05-09 07:25

Anthropic zielt auf den Konsumentenmarkt ab und verbessert die Geschwindigkeit des Claude-Chatbots

Crypto Frontier05-07 05:01
Kommentieren
0/400
Keine Kommentare