Anthropic warnt vor Risiken durch KI-Selbstverbesserung und fordert einen globalen Stoppschritt am 4. Juni

Laut der offiziellen Stellungnahme von Anthropic, die am 4. Juni veröffentlicht wurde, warnte das Unternehmen, dass KI-Technologie seine eigene Entwicklungsarbeit schnell automatisiert. Dies könne rekursive Selbstverbesserungs-Zyklen ermöglichen, die zum Verlust der menschlichen Kontrolle führen könnten. Anthropic schlug vor, dass das weltweite Vorantreiben der Entwicklung von leistungsstarker KI möglicherweise gebremst werden müsse, und forderte eine nachweisbare, koordinierte Verzögerung zwischen wichtigen KI-Labors in mehreren Ländern. Das Unternehmen verwies auf interne Daten, wonach inzwischen über 80% des Codes in seinen Produktionssystemen von seinem Claude-KI-Assistenten geschrieben werden – gegenüber einstelligen Werten vor Anfang 2025. Dies zeige eine zunehmende Automatisierung bei KI-Entwicklungsaufgaben.
Disclaimer: The information on this page may come from third-party sources and is for reference only. It does not represent the views or opinions of Gate and does not constitute any financial, investment, or legal advice. Virtual asset trading involves high risk. Please do not rely solely on the information on this page when making decisions. For details, see the Disclaimer.
Kommentieren
0/400
Keine Kommentare