CEO Anthropic menentang pengawasan dan senjata otomatis, diberi label “risiko rantai pasokan” oleh Departemen Pertahanan

CEO perusahaan AI Anthropic, Dario Amodei, telah merespons Departemen Pertahanan dan Gedung Putih setelah kontraktor pertahanan yang bekerja dengan Departemen Pertahanan AS diminta berhenti menggunakan produk Anthropic.

Dalam wawancara dengan CBS News hari Sabtu, Amodei mengatakan bahwa Anthropic menentang penggunaan model AI perusahaan untuk pengawasan massal dalam negeri dan pengembangan senjata otomatis sepenuhnya yang dapat menembak tanpa intervensi manusia.

Dia menekankan bahwa Anthropic setuju dengan sebagian besar usulan penggunaan AI dari pemerintah AS, kecuali dua bidang tersebut. Menurut Amodei, ini adalah masalah inti bagi warga AS, termasuk hak untuk tidak diawasi oleh pemerintah dan hak bagi perwira militer untuk membuat keputusan terkait perang sendiri, bukan menyerahkan seluruh kendali kepada mesin.

Sebelumnya, Departemen Pertahanan AS menandai Anthropic sebagai “risiko rantai pasokan,” yang berarti kontraktor militer tidak diizinkan menggunakan produk perusahaan dalam kontrak pertahanan. Amodei menyebut langkah ini sebagai “belum pernah terjadi sebelumnya” dan bersifat “sanksi.”

Namun, CEO Anthropic juga menjelaskan bahwa dia tidak sepenuhnya menentang pengembangan senjata otomatis di masa depan, terutama jika militer asing mulai mengadopsi teknologi ini. Menurutnya, masalah saat ini adalah AI belum cukup andal untuk beroperasi sepenuhnya secara mandiri di lingkungan militer.

Amodei berpendapat bahwa kerangka hukum belum mengikuti kecepatan perkembangan industri AI, dan menyerukan Kongres AS untuk menetapkan “penghalang perlindungan” guna mencegah penerapan AI dalam program pengawasan massal dalam negeri.

Dalam perkembangan terkait, Menteri Pertahanan AS Pete Hegseth hari Jumat menyatakan bahwa Anthropic adalah “risiko rantai pasokan terhadap keamanan nasional” dan meminta semua kontraktor, pemasok, atau mitra yang bekerja sama dengan militer AS segera menghentikan aktivitas komersial dengan perusahaan ini.

Beberapa jam setelah pengumuman tersebut, pesaing Anthropic, OpenAI, menerima kontrak dengan Departemen Pertahanan AS untuk mengimplementasikan model AI mereka di jaringan militer.