Anthropic warnt vor Risiken der selbstständigen KI-Iteration, da Claude 80 % des Unternehmenscodes generiert

Laut Anthropic hat Claude etwa 80% des Codes des Unternehmens automatisch generiert, und zwar bis zur vergangenen Woche, was ein wichtiges Signal dafür ist, dass KI-Systeme eine rekursive Phase der Selbstverbesserung erreicht haben – das heißt, dass Modelle nächste Generationen von KI-Systemen entwerfen können, ohne dass Menschen eingreifen müssen.

Anthropic betonte, dass mit dem rasanten Fortschritt der KI-Fähigkeiten das Monitoring auf potenziell unkontrollierbares Verhalten und der Aufbau von Sicherheitsmechanismen zunehmend entscheidend werden, wie The Information berichtet.