Anthropic-CEO fordert staatliche Befugnisse, um die Bereitstellung von risikoreichen KI-Modellen zu blockieren

Laut CEO Dario Amodei hat Anthropic in dieser Woche eine Position zur Regulierung veröffentlicht, in der gefordert wird, dass Regierungen die Befugnis haben sollten, die Bereitstellung von KI-Modellen zu verhindern, die als „unvertretbare Risiken“ eingestuft werden. Amodei veröffentlichte einen Essay, in dem er einen verpflichtenden Dritttest von KI-Modellen fordert, um mögliche Schäden in mehreren Bereichen zu bewerten, und dabei den erforderlichen Regulierungsansatz mit dem von Automobilen, Flugzeugen und Pharmazeutika vergleicht. Das Unternehmen veröffentlichte außerdem eine neue Version seines Mythos-Modells, bei der Fähigkeiten für Netzwerk-Sicherheitsangriffe entfernt wurden, nachdem es zuvor Bedenken gegeben hatte, dass das ursprüngliche Modell in der Lage ist, kritische Software-Schwachstellen zu identifizieren und auszunutzen.
Disclaimer: The information on this page may come from third-party sources and is for reference only. It does not represent the views or opinions of Gate and does not constitute any financial, investment, or legal advice. Virtual asset trading involves high risk. Please do not rely solely on the information on this page when making decisions. For details, see the Disclaimer.
Kommentieren
0/400
Keine Kommentare