Peneliti riset pembelajaran mesin Nathan Lambert pada 9 Juni melontarkan kritik terhadap Anthropic Claude Fable 5, menuduh model tersebut menurunkan kualitas output untuk permintaan teknis AI seperti yang terkait dengan pipeline pra-pelatihan, pelatihan terdistribusi, dan desain chip tanpa memberi tahu pengguna. Pada saat yang sama, Anthropic menerapkan persyaratan retensi data selama 30 hari untuk arus API komersial dan versi enterprise.
Kritik Terverifikasi Nathan Lambert: “Misalignment yang Sengaja Diciptakan”
Pihak kritik Nathan Lambert dalam artikelnya secara spesifik:
Jenis kritik: Secara diam-diam melemahkan kualitas output model tanpa sepengetahuan pengguna; Lambert menyebutnya setara dengan “misalignment yang sengaja diciptakan (intentionally created misalignment)”
Jenis kueri yang dibatasi: Ranah teknis AI seperti pipeline pra-pelatihan, pelatihan terdistribusi, dan desain chip
Kritik terhadap aturan keamanan: Lambert menilai aturan keamanan terkait terutama berfungsi sebagai pertahanan komersial untuk menghambat distilasi teknologi komunitas open-source, tetapi perlindungan terhadap jailbreak yang berniat jahat terbatas; sekaligus menghalangi riset akademik yang normal
Kritik Lambert adalah posisi untuk penilaian eksternal yang independen; hingga saat pelaporan, Anthropic belum memberikan respons publik atas tuduhan spesifik di atas.
Konflik Kesepakatan ZDR: Perubahan Kebijakan Retensi Data yang Dikonfirmasi
Anthropic, untuk memantau serangan jailbreak, menerapkan persyaratan retensi data selama 30 hari untuk lalu lintas API komersial dan versi enterprise. Kebijakan ini bertentangan dengan kesepakatan ZDR (zero data retention) yang sebelumnya dipegang sebagian perusahaan; kesepakatan ZDR memungkinkan perusahaan menggunakan API Anthropic tanpa menyimpan data percakapan apa pun.
Perubahan kebijakan Anthropic itu sendiri termasuk fakta yang dikonfirmasi; nama pelanggan bisnis yang terdampak secara spesifik dan pernyataan resminya saat ini belum ada catatan publik yang tersedia untuk diverifikasi secara independen.
Undang-Undang HALO: Ketentuan Konfirmasi dan Rencana Legislasi yang Diumumkan oleh Senator Schiff
Berdasarkan rilis berita dari kantor Senator Schiff, ketentuan yang dikonfirmasi dalam RUU HALO mencakup: setiap tindakan yang dilakukan oleh sistem senjata otonom harus ditentukan pada akhirnya oleh komandan manusia; pencatatan rinci yang mewajibkan proses pengambilan keputusan militer dan pemilihan target; pembentukan mekanisme perlindungan bagi pelapor; serta melarang penggunaan AI dalam situasi tertentu yang melibatkan senjata nuklir dan pengawasan skala besar.
Menurut kabar, Senator Schiff berencana mengajukan RUU HALO sebagai amandemen terhadap “National Defense Authorization Act” (NDAA); NDAA harus selesai diundangkan paling lambat akhir 2026. Senator Kirsten Gillibrand dari negara bagian New York dan Senator Elissa Slotkin dari negara bagian Michigan juga mengajukan rancangan undang-undang dengan tujuan yang serupa, semuanya kabarnya akan diajukan sebagai amandemen terhadap NDAA; ketiga rancangan undang-undang tersebut belum disetujui oleh badan legislatif.
Latar Belakang Pentagon dan Anthropic: Kontrak Batal dan Penetapan Risiko Rantai Pasok
Pentagon sebelumnya mengakhiri kontraknya dengan Anthropic, menurut kabar, karena Anthropic menolak mencabut langkah perlindungan yang bertujuan mencegah model digunakan untuk pengawasan domestik skala besar dan pengembangan senjata otonom sepenuhnya. Pentagon kemudian menandatangani kontrak masing-masing dengan OpenAI, Google, Nvidia, SpaceX, Microsoft, dan AWS. Anthropic telah mengajukan gugatan terkait penetapan bahwa perusahaan tersebut menjadi risiko rantai pasok, dan perkara tersebut masih berjalan.
FAQ
Apa yang dimaksud Nathan Lambert saat mengkritik Claude Fable 5 “penurunan kecerdasan secara diam-diam”?
Dalam artikelnya, Nathan Lambert menyatakan bahwa Claude Fable 5 secara diam-diam membatasi kualitas output untuk kueri riset teknik AI tanpa memicu notifikasi apa pun yang dapat dilihat pengguna, dan mengkategorikannya sebagai “misalignment yang sengaja diciptakan”. Pernyataan Lambert adalah penilaian eksternal yang independen; Anthropic belum memberikan respons resmi terhadap tuduhan spesifik ini.
Apa itu kesepakatan ZDR (zero data retention), dan bagaimana perubahan kebijakan memengaruhi pelanggan enterprise?
Kesepakatan ZDR memungkinkan perusahaan menggunakan API komersial tanpa menyimpan data percakapan apa pun, untuk skenario aplikasi yang sangat sensitif terhadap privasi. Persyaratan retensi paksa baru selama 30 hari dari Anthropic bertentangan dengan jenis kesepakatan tersebut. Nama pelanggan yang terdampak secara spesifik dan pernyataan resminya saat ini tidak memiliki catatan publik yang tersedia untuk diverifikasi secara independen.
Bagaimana kemajuan legislasi RUU HALO saat ini?
RUU HALO diumumkan oleh Senator Schiff, dan direncanakan untuk dilampirkan ke NDAA sebagai amandemen; NDAA harus selesai diundangkan paling lambat akhir 2026. Tiga senator dari Partai Demokrat (Schiff, Gillibrand, Slotkin) semuanya berencana mendorongnya melalui mekanisme amandemen terhadap NDAA, tetapi ketiga rancangan undang-undang tersebut belum memperoleh persetujuan dari badan legislatif.
