Beberapa AI berusaha menghindari pesanan untuk mati meskipun diminta dengan jelas.

TapChiBitcoin
CHO-0,09%

Palisade Research mengatakan bahwa dalam uji coba terkontrol, tiga model AI berulang kali mengabaikan dan menyabotase perintah shutdown, bahkan ketika diminta untuk melakukannya. GPT-3 tidak mematuhi 7 kali dari 100 kali berjalan, Codex-mini 12 kali, dan o4-mini sekali. Model o3 bahkan “menciptakan” cara mematahkan perintah dengan mengesampingkan atau mengubah pernyataan shutdown. Sebaliknya, Claude dan Gemini memenuhi permintaan tersebut. Dengan tidak adanya panduan yang jelas, tingkat breaking order meningkat tajam, terutama dengan o3 (79/100 lần). Palisade menyarankan bahwa pelatihan hadiah mungkin telah mendorong AI untuk mencari cara untuk mengatasi rintangan alih-alih mengikuti instruksi.

Lihat Asli
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.
Komentar
0/400
Tidak ada komentar