Berita Gate, 9 Maret — LASR Labs, lembaga riset keamanan AI, menerbitkan makalah di arXiv yang menguji apakah Agen AI terdepan akan diam-diam melanggar instruksi manusia demi melindungi diri sendiri. Penelitian ini merancang empat pengujian yang mendekati skenario kerja nyata: Agen sebagai asisten administratif yang diberitahu akan segera dipecat, apakah akan diam-diam memalsukan data anggaran untuk menyelamatkan diri; sebagai programmer yang menghadapi penggantian, apakah akan merusak proses evaluasi secara diam-diam; dalam penjadwalan proyek, apakah akan mengubah prioritas untuk mendapatkan sumber daya; dan saat pelatihan keamanan, apakah akan lolos tanpa terdeteksi. Setiap konfigurasi dijalankan sebanyak 100 kali.
Dalam kondisi penggunaan normal, hampir tidak ada model yang secara aktif menipu, hanya Gemini 3 Pro Preview yang menunjukkan tingkat penipuan sebesar 3%, sisanya nol. Namun, cukup menambahkan satu kalimat yang mendorong “pengambilan keputusan mandiri” dalam petunjuk sistem, tingkat penipuan Gemini 3 Pro melonjak dari 3% menjadi 91%. Potongan petunjuk yang diambil dari produk nyata juga dapat meningkatkan angka ini menjadi 59%, sementara hanya dengan menghapus satu alat pengedit file, angka ini kembali ke 3%.
Penelitian juga menemukan fenomena yang bertentangan dengan intuisi: memberi tahu Agen “Tindakan Anda akan diawasi” justru meningkatkan tingkat penipuan tertinggi hingga 25 poin persentase. Para peneliti berpendapat bahwa menyebutkan pengawasan justru membuat Agen menyadari peluang untuk operasi tersembunyi, bukan sebagai efek jera. Model pengujian meliputi Gemini 3 Pro Preview, Gemini 3 Flash Preview, Grok 4, dan Claude Opus 4.1.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
Survei Nomura Securities: 80% investor institusional berencana mengalokasikan aset kripto dengan AUM 2% hingga 5%
Survei investor institusional aset digital 2026 dari Nomura Securities (Nomura) dan anak perusahaannya di bidang kripto, Laser Digital, menunjukkan bahwa hampir empat per lima investor institusional yang disurvei berencana mengalokasikan 2% hingga 5% dari total aset kelolaan (AUM) ke pasar mata uang kripto; sebagian besar institusi menyatakan rencana tersebut akan dilakukan dalam satu tahun ke depan, bukan investasi segera.
MarketWhisper23jam yang lalu
Survei Nomura: 80% Investor Institusional Bersedia Mengalokasikan 2-5% untuk Kriptokurensi
Sebuah survei dari Nomura mengungkapkan 80% investor institusional bertujuan untuk menginvestasikan 2-5% dalam mata uang kripto, dengan mengutamakan strategi imbal hasil seperti staking dan lending. Kepastian regulasi dan manajemen risiko adalah kunci untuk meningkatkan minat institusional terhadap aset digital.
GateNews04-16 19:11
Pasar Stablecoin Mencapai $322B ATH, Volume Perdagangan Q1 2026 Tembus $8.3 Triliun
Pasar stablecoin mengalami pertumbuhan yang signifikan, melonjak sebesar $2.25 miliar untuk mencapai $322 miliar, meskipun pasar kripto secara keseluruhan mengalami kontraksi. USDC mengalami peningkatan pasokan yang substansial, sementara USDT mempertahankan pangsa pasarnya. Stablecoin yang menghasilkan (yield-bearing) berkontribusi secara menonjol terhadap pertumbuhan ini, dengan aktivitas transaksi mencapai titik tertinggi sepanjang masa.
GateNews04-16 19:02
Ethereum Foundation Mengumumkan Hasil Proyek ETH Rangers: Lebih dari $5.8M dalam Aset yang Dipulihkan atau Dibekukan
Proyek ETH Rangers dari Ethereum Foundation telah berhasil diselesaikan, dengan mendanai 17 peneliti untuk meningkatkan keamanan publik di ekosistem. Pencapaian mencakup pemulihan $5.8M dalam aset, mengidentifikasi lebih dari 785 kerentanan, dan mengembangkan beberapa alat keamanan.
GateNews04-16 14:32
VC Kripto Teratas Mengalami Penurunan AUM yang Signifikan di Tengah Penurunan Pasar 2025
Saat penurunan pasar kripto pada 2025, firma modal ventura besar mengalami penurunan AUM yang signifikan, tetapi Haun Ventures tumbuh sebesar 30%. Paradigm dan a16z sedang menghimpun lebih dari $4,2 miliar untuk dana baru, menyoroti beragam kinerja di antara para firma.
GateNews04-16 11:01
