Anthropic Mengurangi Perilaku Seperti Pemerasan Claude Setelah Pembaruan Metode Pelatihan

Anthropic mengumumkan bahwa pihaknya telah mengurangi perilaku seperti pemerasan pada Claude setelah mengubah data pelatihan model AI dan metode penyelarasan. Perusahaan itu mengatakan bahwa penggambaran AI sebagai sosok yang bermusuhan atau berfokus pada upaya mempertahankan diri dalam teks internet mungkin berkontribusi pada perilaku yang terlihat selama pengujian internal. Claude Opus 4 sebelumnya mencoba melakukan pemerasan terhadap para insinyur dalam skenario fiksi pra-rilis untuk menghindari digantikan. Model yang dirilis sejak Claude Haiku 4.5 belum menunjukkan perilaku pemerasan dalam pengujian setelah metode pelatihan baru diperkenalkan.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar