Singkatnya
- Dario Amodei mengatakan Anthropic tidak akan menghapus larangan terhadap pengawasan domestik massal dan senjata otonom sepenuhnya.
- Pentagon mengancam pemutusan kontrak dan kemungkinan tindakan berdasarkan Undang-Undang Produksi Pertahanan.
- Ketegangan ini muncul setelah laporan bahwa militer AS menggunakan Claude untuk menangkap mantan Presiden Venezuela Nicolás Maduro.
CEO Anthropic Dario Amodei mengatakan Kamis bahwa perusahaan tidak akan menghapus perlindungan dari model AI Claude-nya, meningkatkan sengketa dengan Departemen Pertahanan AS mengenai bagaimana teknologi ini dapat digunakan dalam sistem militer rahasia.
Pernyataan ini muncul saat Departemen Pertahanan meninjau hubungannya dengan Anthropic dan mempertimbangkan konsekuensi potensial, termasuk pembatalan kontrak senilai $200 juta dan kemungkinan penerapan Undang-Undang Produksi Pertahanan.
“Kami tidak dapat dengan hati nurani yang baik menyetujui permintaan mereka,” tulis Amodei, merujuk pada tuntutan Pentagon pada Januari agar kontraktor AI mengizinkan penggunaan sistem mereka untuk “setiap penggunaan yang sah.”
Meskipun Pentagon sejak itu mewajibkan vendor AI untuk mengadopsi bahasa standar “setiap penggunaan yang sah” dalam perjanjian mendatang, Anthropic tetap menjadi satu-satunya perusahaan AI frontier yang menolak menyerahkan kendali AI-nya kepada militer.
Pada hari Rabu, Axios pertama kali melaporkan bahwa Pentagon telah mengeluarkan ultimatum yang mengharuskan penggunaan Claude tanpa batasan untuk keperluan militer. Batas waktu dilaporkan adalah hari Jumat minggu ini.
“Ini adalah hak prerogatif Departemen untuk memilih kontraktor yang paling sesuai dengan visi mereka,” lanjut Amodei. “Namun mengingat nilai besar yang diberikan teknologi Anthropic kepada angkatan bersenjata kita, kami berharap mereka mempertimbangkan kembali.”
Dalam pernyataannya, Amodei memposisikan sikap perusahaan sebagai sejalan dengan tujuan keamanan nasional AS.
“Saya percaya secara mendalam akan pentingnya menggunakan AI untuk membela Amerika Serikat dan demokrasi lain, serta mengalahkan lawan otokratis kita,” katanya.
Dia menambahkan bahwa Claude “secara luas digunakan di Departemen Perang dan lembaga keamanan nasional lainnya untuk analisis intelijen, pemodelan dan simulasi, perencanaan operasional, operasi siber, dan lain-lain.”
Perang Melawan AI
Perselisihan ini berkembang di tengah kekhawatiran yang lebih luas tentang bagaimana sistem AI canggih berperilaku dalam skenario militer berisiko tinggi. Dalam studi terbaru dari King's College London, GPT-5.2 dari OpenAI, Claude Sonnet 4 dari Anthropic, dan Gemini 3 dari Google digunakan untuk meluncurkan senjata nuklir dalam 95% dari krisis geopolitik simulasi.
Dalam pidatonya di SpaceX’s Starbase di Texas pada Januari, Menteri Pertahanan Pete Hegseth mengatakan militer AS berencana mengerahkan model AI paling canggih.
Bulan yang sama, muncul laporan bahwa Claude digunakan dalam operasi AS untuk menangkap mantan Presiden Venezuela Nicolás Maduro. Amodei membantah klaim bahwa Anthropic meragukan operasi militer tertentu.
“Anthropic memahami bahwa Departemen Perang, bukan perusahaan swasta, yang membuat keputusan militer,” katanya. “Kami tidak pernah mengajukan keberatan terhadap operasi militer tertentu maupun berusaha membatasi penggunaan teknologi kami secara ad hoc.”
Meski begitu, Amodei mengatakan bahwa menggunakan sistem ini untuk pengawasan domestik massal atau senjata otonom tidak sejalan dengan nilai demokrasi dan menimbulkan risiko serius.
“Hari ini, sistem AI frontier belum cukup andal untuk mendukung senjata sepenuhnya otonom,” katanya. “Kami tidak akan secara sadar menyediakan produk yang membahayakan prajurit dan warga sipil Amerika.”
Dia juga menanggapi ancaman Pentagon untuk menandai Anthropic sebagai “risiko rantai pasokan” sekaligus kemungkinan menerapkan Undang-Undang Produksi Pertahanan.
“Dua ancaman terakhir ini secara inheren bertentangan: satu menandai kami sebagai risiko keamanan; yang lain menandai Claude sebagai hal penting bagi keamanan nasional,” katanya.
Meskipun Amodei menyatakan perusahaan tidak akan mematuhi permintaan Pentagon, sekaligus Anthropic telah merevisi Kebijakan Skala Bertanggung Jawabnya, menghapus janji untuk menghentikan pelatihan sistem canggih tanpa jaminan perlindungan yang pasti.
Robert Weissman, co-presiden Public Citizen, mengatakan sikap Pentagon menunjukkan tekanan yang lebih luas terhadap industri teknologi.
“Pentagon secara terbuka menekan Anthropic, dan bagian publik ini sengaja dilakukan, karena mereka ingin memberi tekanan pada perusahaan ini dan mengirim pesan kepada semua perusahaan teknologi besar dan korporasi bahwa mereka berencana melakukan apa pun yang mereka inginkan dan tidak akan menghalangi,” kata Weissman kepada Decrypt.
Weissman menggambarkan pengaman Anthropic sebagai “sederhana” dan bertujuan mencegah “pengawasan yang tidak semestinya terhadap rakyat Amerika atau memfasilitasi pengembangan dan penggunaan robot pembunuh, senjata berbasis AI yang dapat meluncurkan serangan mematikan tanpa campur tangan manusia.”
“Ini adalah pengaman yang paling masuk akal dan sederhana yang bisa Anda buat terkait teknologi baru yang kuat ini.”
Mengenai ancaman Pentagon untuk menandai Anthropic sebagai “risiko rantai pasokan,” Weissman menyebutnya sebagai hukuman yang berpotensi menghancurkan dari pemerintah, dan berpendapat bahwa hal ini akan menekan perusahaan AI lain untuk menghindari pembatasan serupa.
“Individu mungkin menggunakan Claude, tetapi tidak ada perusahaan AI, terutama Anthropic, yang model bisnisnya bergantung pada penggunaan individu; mereka mencari penggunaan bisnis,” katanya. “Ini adalah hukuman yang berpotensi menghancurkan dari pemerintah.”
Meskipun Pentagon belum menyatakan apakah mereka akan melanjutkan ancaman untuk memutus kontrak atau menerapkan Undang-Undang Produksi Pertahanan, Weissman mengatakan bahwa Pentagon memberi sinyal kepada perusahaan AI bahwa mereka mengharapkan akses tanpa batas ke teknologi mereka setelah digunakan dalam sistem pemerintah.
“Pesan Pentagon adalah, ‘kami tidak akan mentolerir ini, dan kami berharap dapat menggunakan teknologi ini sesuai keinginan kami,’” kata Weissman.
Departemen Pertahanan dan Anthropic belum segera menanggapi permintaan komentar dari Decrypt.
