CEO OpenAI mendesak AS untuk bersiap menghadapi risiko AI “superintelligence” dan keuntungannya

Sam Altman, Ketua Eksekutif OpenAI, mengatakan bahwa para pembuat kebijakan AS harus bertindak sekarang untuk bersiap menghadapi kecerdasan buatan tingkat lanjut, memperingatkan bahwa teknologi tersebut sedang bergerak dari teori menjadi penggunaan ekonomi harian.

Dalam sebuah wawancara dengan Axios, Altman mengatakan bahwa sistem AI sudah menangani tugas pengkodean dan riset yang sebelumnya memerlukan tim programmer. Model-model yang lebih baru, katanya, akan melangkah lebih jauh, membantu para ilmuwan membuat penemuan besar dan memungkinkan individu melakukan pekerjaan dari seluruh kelompok.

Perubahan itu sudah terlihat dalam keamanan siber, di mana beberapa pemimpin industri mengatakan bahwa kecerdasan buatan sedang memiringkan keseimbangan ke arah penyerang.

Sebagai contoh, Charles Guillemet, chief technology officer dari pembuat dompet perangkat keras Ledger, mengatakan kepada CoinDesk bahwa alat-alat AI menurunkan biaya dan keterampilan yang dibutuhkan untuk menemukan serta mengeksploitasi celah perangkat lunak. Tugas yang dulu memakan waktu berbulan-bulan, seperti rekayasa balik kode atau menghubungkan beberapa kerentanan, kini dapat diselesaikan dalam hitungan detik dengan prompt yang tepat.

Industri kripto mengalami lebih dari $1,4 miliar aset yang dicuri atau hilang dalam serangan tahun lalu. Angka itu, saran Guillemet, bisa terus bertambah. Selain itu, para pengembang semakin mengandalkan kode yang dihasilkan AI, yang berpotensi memperkenalkan cacat baru dalam skala besar.

Respons, katanya, akan memerlukan pertahanan yang lebih kuat seperti kode yang diverifikasi secara matematis, perangkat keras yang menjaga kunci privat tetap offline, dan pengakuan yang lebih luas bahwa sistem dapat gagal.

AI dalam siber, biosecurity

Sementara Altman mencatat bahwa AI dapat mempercepat penemuan obat atau ilmu material, ia juga menandai bahwa AI dapat memungkinkan serangan siber yang lebih kuat dan menurunkan hambatan untuk riset biologis yang berbahaya. Ancaman-ancaman semacam itu bisa muncul dalam waktu satu tahun, yang membuat koordinasi lintas pemerintah, perusahaan teknologi, dan kelompok keamanan menjadi mendesak.

“Kami tidak terlalu jauh dari dunia di mana ada model sumber terbuka yang sangat mampu yang sangat baik dalam biologi,” katanya. “Kebutuhan masyarakat untuk menjadi tangguh terhadap kelompok teroris yang menggunakan model-model ini untuk mencoba menciptakan patogen baru bukan lagi hal yang bersifat teoretis.”

Contoh lain yang ia sarankan adalah “serangan siber yang mengguncang dunia” yang bisa terjadi paling cepat tahun ini. Menghindarinya, katanya, akan memerlukan “sejumlah besar pekerjaan.”

Ia mengemas gagasan kebijakan OpenAI sebagai titik awal, dengan tujuan mendorong perdebatan tentang bagaimana mengelola sistem yang belajar dengan cepat dan bertindak lintas banyak bidang. Menggunakan AI untuk membantu mempertahankan diri dari serangan potensial ini, katanya, adalah hal yang penting.

Terkait kemungkinan nasionalisasi OpenAI, Altman mengatakan bahwa alasan menentangnya bergantung pada kebutuhan AS untuk mencapai “superintelligence” sebelum para pesaingnya melakukannya.

“Kasus terbesar menentang nasionalisasi adalah bahwa kita perlu AS berhasil membangun superintelligence dengan cara yang selaras dengan nilai-nilai demokratis Amerika Serikat sebelum orang lain melakukannya,” katanya. “Itu mungkin tidak akan berhasil sebagai proyek pemerintah, saya pikir itu hal yang menyedihkan.”

Namun, Altman mengatakan bahwa ia percaya perusahaan-perusahaan yang terlibat dalam AI harus bekerja erat dengan pemerintah AS.

Dengan perannya di OpenAI, Altman juga memiliki kepentingan finansial dalam bagaimana sektor ini berkembang. Posisi tersebut dapat memengaruhi cara ia membingkai urgensi regulasi dan peran perusahaan swasta seperti OpenAI dalam mengelola risiko-risiko yang muncul, yang dapat memengaruhi posisi kompetitif perusahaan.

AI sebagai utilitas

Energi adalah salah satu bidang di mana ia melihat kemajuan cepat karena kapasitas daya pemrosesan yang lebih besar dapat menekan biaya saat permintaan AI tumbuh.

Altman juga menunjuk pada tanda-tanda awal pergeseran tenaga kerja. Seorang programmer pada tahun 2026, katanya, sudah bekerja secara berbeda dibandingkan satu tahun sebelumnya.

AI akan menjadi semacam utilitas, seperti listrik, yang tertanam di berbagai perangkat sementara biaya untuk kecerdasan dasar turun dan sistem-sistem teratas tetap mahal.

“Anda akan memiliki asisten super pribadi ini yang berjalan di cloud,” kata Altman. “Jika Anda memakainya banyak atau menggunakannya pada tingkat kecerdasan yang tinggi, Anda akan mendapat tagihan yang lebih tinggi pada satu bulan tertentu, dan jika Anda memakainya lebih sedikit, tagihannya akan lebih rendah.”

Ini “sangat penting bahwa orang-orang yang membangun AI adalah orang-orang yang memiliki integritas tinggi, dapat dipercaya.”