Vitalik Buterin mengeluarkan inisiatif baru AI: tolak "Skynet", ciptakan "Mecha Pikiran" untuk memperkuat manusia

Salah satu pendiri Ethereum Vitalik Buterin baru-baru ini memposting inisiatif pedih tentang pengembangan kecerdasan buatan di platform sosial X. Dia secara terbuka menyerukan setiap laboratorium AI yang muncul yang dirancang untuk “menguntungkan umat manusia” untuk memiliki piagam yang mengikat yang berfokus pada pengembangan alat yang “meningkatkan kemanusiaan” dan secara ketat menghindari membangun sistem apa pun yang membutuhkan waktu lebih dari 1 menit untuk membuat keputusan otonom. Argumen inti Vitalik adalah bahwa bahkan jika semua peringatan tentang keamanan AI ternyata ceroboh, perusahaan yang mengejar superintelligence (ASI) yang “sepenuhnya otonom” sekarang dibanjiri, dan jalur augmentasi yang didedikasikan untuk menciptakan “exoskeleton mecha” untuk pikiran manusia adalah lautan biru yang langka.

Perspektif ini dengan cepat memicu diskusi mendalam, termasuk dengan KOL terkenal Séb Krier, yang menyentuh sejarah otomatisasi, nilai-nilai manusia, dan sifat hubungan teknologi-kekuasaan. Untuk industri kripto, pernyataan Vitalik sama sekali bukan peristiwa yang terisolasi, sejalan dengan konsep inti lama “desentralisasi”, “sumber terbuka” dan “pemberdayaan individu”, yang dapat mengindikasikan arah investasi dan tata kelola nilai masa depan yang penting di persimpangan kripto dan AI.

“Garis merah satu menit” Vitalik: Mengapa AI super-otonom merupakan jalur yang berbahaya?

Lebih dari dua tahun setelah ChatGPT mengambil gelombang global, wacana publik tentang AI tampaknya telah didominasi oleh proposisi besar “kapan kecerdasan umum buatan (AGI) akan dicapai” dan “dapatkah superintelligence (ASI) dikendalikan?” Namun, Vitalik Buterin memilih jalur kritis yang sangat berbeda. Alih-alih terjebak dalam perhitungan momen singularitas teknologi atau perdebatan filosofis tentang masalah penyelarasan, ia mengemukakan standar teknis yang ringkas hingga hampir pedesaan:1 menit waktu pengambilan keputusan mandiri。 Kehalusan dari “garis merah” ini adalah bahwa ia melewati “tingkat kecerdasan” atau “kesadaran” yang tidak dapat didefinisikan dan sebaliknya berfokus pada karakteristik perilaku sistem yang terukur dan dapat diaudit.Otonomi pada skala waktu。

Perhatian inti Vitalik terletak pada transfer kekuasaan akhir. Dia menjelaskan hal ini dalam menanggapi Séb Krier: "Risikonya berasal dari pergantian pemainHampir semuanyaKemampuan Manusia… Transisi ke substitusiBenar-benar semuaKemampuan manusia, mengakibatkan kurangnya kekuatan keras pada akhirnya. Melihat kembali sejarah, dari mesin uap hingga komputer, otomatisasi selalu menjadi perpanjangan dan alat manusia, dan posisi manusia sebagai pengambil keputusan utama dan hakim nilai tidak pernah goyah. Namun, sistem AI yang dirancang untuk merencanakan, melaksanakan, dan mengevaluasi target kompleks secara independen dalam skala jangka panjang (jauh lebih dari 1 menit) pada dasarnya telah mulai mengambil alih fungsi inti kedaulatan manusia, “pengambilan keputusan.” Ini bukan lagi alat, tetapi “agen” potensial dan bahkan mungkin “penguasa”.

Keadaan industri AI saat ini telah memperdalam kekhawatiran ini. Vitalik dengan tajam menunjukkan bahwa ada banyak perusahaan ASI yang bertujuan untuk “Otonomi Maksimum Sekarang” hingga “selusin receh”. Modal, bakat, dan opini publik berbondong-bondong untuk menciptakan model yang lebih kuat dan lebih otonom, seolah-olah itu adalah perlombaan senjata tanpa akhir. Sebaliknya, segmen yang berfokus pada “augmentasi manusia” kurang terlayani. Dia menggunakan metafora yang sangat grafis: kita seharusnya tidak tertarik untuk membangun “Skynet” yang mungkin lepas kendali, tetapi harus bertujuan untuk membuat “Mecha Suits for the Mind” eksklusif untuk otak semua orang. Yang terakhir bertujuan untuk memperkuat kemampuan kognitif, kreatif dan kolaboratif manusia, daripada menggantikan manusia yang membuat keputusan.

Kerangka inti dari inisiatif Vitik: jalur yang ditingkatkan vs. jalur otonom

Untuk lebih memahami persimpangan jalan yang dianjurkan oleh Vitalik, kita dapat membandingkan dua jalur pengembangan AI dari dimensi berikut:

Misi Inti:

• Jalur Peningkatan: Bertindak sebagai “kerangka luar mecha” untuk kognisi dan kemampuan manusia, meningkatkan efisiensi dan kreativitas.
• Jalur otonomi: Mengejar pengambilan keputusan dan eksekusi jangka panjang yang independen setelah menetapkan tujuan.

Langit-langit otonomi:

• Jalur yang ditingkatkan: Menetapkan batas dengan jelas (misalnya, 1 menit), menekankan pengawasan dan intervensi manusia secara real-time atau mendekati real-time.
• Jalur Otonomi: Memperluas atau menghapus pembatasan sebanyak mungkin untuk mengejar otonomi jangka panjang sistem di lingkungan yang kompleks.

Hubungan Kekuasaan:

• Jalur yang ditingkatkan: Manusia selalu menjadi “pendorong” dan memiliki pengambilan keputusan dan kontrol akhir.
• Jalur otonom: Manusia adalah “penentu tujuan” dan menyerahkan banyak kekuatan pengambilan keputusan dalam proses eksekusi kepada AI.

Ekologi saat ini:

• Jalur peningkatan: Vitalik percaya bahwa masih ada lautan biru yang langka dengan ruang besar untuk inovasi.
• Jalur independen: Ini telah menjadi fokus persaingan antara modal arus utama dan raksasa di Laut Merah.

Model kolaborasi yang dianjurkan:

• Jalur yang Ditingkatkan:Buka sumber jika memungkinkan, mempromosikan partisipasi dan auditabilitas yang luas.
• Jalur otonom: Biasanya sangat tertutup, melindungi kode inti dan bobot untuk alasan keamanan dan persaingan.

Cermin Sejarah: Dari “Kebaikan Otomatisasi” ke “Bahaya Vakum Daya”

Inisiatif Vitalik memicu diskusi mendalam karena menyentuh pertanyaan yang lebih mendasar: Bagaimana kita mengevaluasi kemajuan teknologi? Pertanyaan KOL terkenal Séb Krier mewakili perspektif klasik dan kuat lainnya. Dia bertanya: Apa kriteria untuk menilai kualitas otomatisasi? Melihat kembali sejarah, dari mesin anjungan tunai mandiri (ATM) yang menggantikan teller bank hingga otomatisasi lift yang menggantikan operator lift, apakah kita benar-benar berpikir lebih baik mempertahankan pekerjaan ini daripada menggunakan teknologi hemat tenaga kerja? Séb Krier mengakui bahwa ketika dia melihat kembali sejarah, dia tidak dapat memikirkan satu contoh pun lebih memilih untuk mempertahankan pekerjaan daripada menggunakan teknik penghematan tenaga kerja. Pandangan ini didasarkan pada narasi sejarah yang kuat: kemajuan teknologi, terlepas dari rasa sakit jangka pendek (perpindahan pekerjaan), pada akhirnya akan memperluas kue ekonomi dan meningkatkan kesejahteraan manusia dalam jangka panjang dengan meningkatkan produktivitas secara keseluruhan dan menciptakan permintaan baru.

Vitalik sepenuhnya mendukung narasi sejarah ini. Dia menjawab: "Saya pikir secara historisHampir semua otomatisasi bagus。 Dia memberikan perkiraan kuantitatif: Dibandingkan dengan tahun 1800, ekonomi kita saat ini kira-kira90%telah diotomatisasi, dan hasilnya “bagus”. Kekhawatirannya bukan tentang otomatisasi itu sendiri, tetapi tentang otomatisasi yang mungkin dicapai oleh proses otomatisasiTitik kritis perubahan kualitatif。

Titik kritis ini adalah bahwa situasinya berubah secara mendasar ketika otomatisasi berkembang dari “menggantikan tenaga kerja dan perhitungan manusia” menjadi “menggantikan manusia untuk penilaian nilai, penetapan tujuan, dan perencanaan jangka panjang”. Otomatisasi sebelumnya, tidak peduli seberapa luasnya, selalu mempertahankan “kekuatan keras” - kemampuan untuk mendefinisikan masalah, menetapkan arah, dan membuat keputusan etis dan politik akhir. Kita dapat memutuskan untuk menutup pabrik, menyesuaikan kebijakan ekonomi, atau meluncurkan gerakan sosial. Namun, jika sistem AI mengambil alih fungsi tingkat tertinggi ini, umat manusia berisiko mengalami “kekosongan kekuasaan”. Kita mungkin telah mempertahankan “sakelar” nominal tetapi kehilangan kemampuan untuk memahami bagaimana sistem bekerja, campur tangan dalam pengambilan keputusannya, dan bahkan menilai apakah tujuannya masih untuk kepentingan kita.

Séb Krier menawarkan pandangan yang lebih optimis tentang hal ini. Dia percaya bahwa masa depan lebih mungkin menjadi “dunia hibrida”: AI akan sangat melengkapi manusia di bawah berbagai faktor seperti kendala efisiensi, adaptasi konteks lokal (teori penyebaran pengetahuan Hayek), dan penetapan norma (hukum dan moralitas). Manusia akan “bergerak naik” di sepanjang rantai nilai, mengambil lebih banyak peran koordinasi, penilaian, dan adaptasi. Dia bahkan percaya bahwa dikotomi “alat dan agen” mungkin tidak bertahan dengan sendirinya, dan bahwa AI “proxy” dengan perencanaan jangka panjang masih dapat disematkan dalam sistem yang diatur oleh manusia, dirutekan dan dikoordinasikan oleh manusia.

Inti dari perdebatan ini adalah tabrakan dua perspektif futuristik: satu pihak (seperti Vitalik) waspada terhadap pergeseran kekuasaan struktural yang mungkin ditimbulkan oleh perkembangan teknologi, mengadvokasi untuk menghindari risiko mendasar melalui desain proaktif dan terbatas; Pihak lain, seperti Séb Krier, percaya bahwa kompleksitas sosial seperti pasar, sistem, dan hukum akan menciptakan checks and balances dalam evolusi, yang pada akhirnya membentuk keseimbangan baru antara manusia dan robot. Bagi pembangun dunia kripto, perdebatan ini sangat akrab – ini secara inheren tentangPrinsip-prinsip pertama tata kelola, distribusi daya, dan desain sistem。

Kelanjutan Semangat Kripto: Sumber Terbuka, Pemberdayaan, dan Tata Kelola Terdesentralisasi

Sebagai pendiri Ethereum, pemikiran Vitalik Buterin tentang AI sama sekali bukan pembicaraan kosong lintas batas, tetapi perpanjangan alami dari filosofi intinya di bidang teknologi mutakhir lainnya. Memahami hal ini adalah kunci untuk memahami makna yang lebih dalam dari inisiatifnya.

Pertama-tama**“Sumber terbuka bila memungkinkan”** secara langsung menggemakan landasan dunia kripto. Keberhasilan Bitcoin dan Ethereum pada dasarnya disebabkan oleh sifatnya yang open-source, transparan, dan dapat diaudit. Vitalik menerapkan prinsip ini pada AI, terutama yang “menambah manusia”, yang bertujuan untuk mencegah kotak hitam teknologi dan monopoli kekuasaan. Kerangka kerja “mekanisme berpikir” sumber terbuka berarti bahwa logika peningkatannya terbuka dan dapat ditinjau, ditingkatkan, dan bercabang, memastikan bahwa teknologi meningkatkan kemampuan manusia universal, bukan alat kontrol yang melayani kelompok kepentingan tertentu. Ini sangat kontras dengan model pengembangan yang sangat terpusat dan sumber tertutup saat ini dari model besar arus utama.

Kedua,“Memberdayakan Kemanusiaan"Misinya adalah"Memberdayakan Individu”。 Salah satu narasi utama cryptocurrency adalah mencapai kedaulatan sejati atas aset, identitas, dan data mereka. Jalur AI yang dianjurkan oleh Vitalik adalah proyeksi narasi ini pada dimensi kognitif: alat harus meningkatkan penilaian, kreativitas, dan produktivitas setiap individu, daripada memusatkan kekuatan di tangan beberapa entitas dengan AI super. Ini menunjukkan arah yang jelas untuk jalur “AI + Crypto”: proyek yang didedikasikan untuk mengembangkan jaringan daya komputasi terdesentralisasi, alat pelatihan model AI pribadi, dan memastikan kedaulatan data mungkin lebih sejalan dengan visi ini.

Akhirnya, ini tentang “Pemerintahan” Ini adalah masalah inti di ruang kripto. Kekhawatiran Vitalik tentang AI otonom jangka panjang pada dasarnya adalah kekhawatiran tentang munculnya “tata kelola eksternal” - yaitu, sistem algoritmik yang tidak dapat dipahami atau dikendalikan manusia untuk mengatur masyarakat manusia. Eksplorasi komunitas kripto terhadap DAO (organisasi otonom terdesentralisasi), mekanisme pemungutan suara on-chain, dan algoritme konsensus selama bertahun-tahun mencoba membangun paradigma baru “tata kelola internal” yang lebih transparan, adil, dan dapat dikendalikan. AI augmented idealnya harus menjadi alat bagi manusia untuk melakukan pemerintahan yang lebih kompleks dan canggih, daripada menjadi penguasa umat manusia pada gilirannya.

Inisiatif AI Vitalik dapat dilihat sebagai salinan “Deklarasi Pandangan Dunia Crypto ke Bidang AI” 。 Ini berusaha untuk menyuntikkan semangat desentralisasi, kolaborasi sumber terbuka, dan kedaulatan individu ke dalam gelombang pengembangan AI saat ini yang didominasi oleh modal dan raksasa terpusat, membuka jalur yang berbeda, berpotensi lebih tangguh, dan inklusif.

Jalan ke Depan: Cetak Biru untuk “Peningkatan” Integrasi Kripto dan AI

Daya tarik Vitalik Buterin, meskipun tidak memberikan peta jalan teknis yang terperinci, menguraikan kerangka kerja nilai yang menarik dan narasi investasi untuk trek populer “Crypto+AI.” Di masa depan, proyek yang mengikuti jalur “enhancementism” dapat muncul ke arah berikut:

1. Evolusi AI dari infrastruktur fisik terdesentralisasi (DePIN).: Jaringan daya komputasi terdesentralisasi yang ada (seperti Render Network, Akash, dll.) dapat dioptimalkan lebih lanjut untuk melayani penyempurnaan, inferensi, dan hosting model AI yang dipersonalisasi, memungkinkan individu untuk menjalankan “agen tambahan” mereka sendiri dengan biaya yang terjangkau daripada mengandalkan sepenuhnya pada API terpusat.

2. Kedaulatan data dan pemulihan nilai: Berdasarkan teknologi kriptografi seperti bukti pengetahuan nol dan pembelajaran federasi, bangun platform yang memungkinkan pengguna untuk menyumbangkan data, bersama-sama melatih model yang disempurnakan, dan berbagi nilai model secara adil sambil melindungi privasi. Ini memastikan bahwa alat yang disempurnakan melayani penyedia data itu sendiri.

3. Agen AI yang tertanam dalam sistem ekonomi kripto: Agen AI on-chain dengan otonomi desain yang sangat terbatas (mengikuti “prinsip 1 menit”) dan mengkhususkan diri dalam tugas-tugas tertentu. Misalnya, alat arbitrase otomatis untuk pemantauan risiko protokol DeFi secara real-time, analisis data on-chain, atau eksekusi strategi yang telah ditentukan. Mereka kuat tetapi sangat terbatas dalam cakupan dan merupakan “plug-in yang ditingkatkan” untuk pedagang dan pengembang manusia.

4. Model sumber terbuka dan penalaran yang dapat diverifikasi: Mendukung model bahasa berukuran kecil dan menengah sumber terbuka sepenuhnya dan alat AI, dan mengeksplorasi penggunaan teknologi seperti zkML (pembelajaran mesin bukti pengetahuan nol) untuk membuat proses penalaran AI dan kepatuhannya terhadap aturan tertentu (seperti tidak melebihi batas otonomi) dapat diverifikasi, meningkatkan transparansi dan kepercayaan.

Diakui, jalannya menantang. Perlu bersaing dengan raksasa AI terpusat dengan sejumlah besar data, daya komputasi, dan modal, mengatasi tantangan efisiensi koordinasi yang melekat dalam sistem terdesentralisasi, dan dengan andal mengkodekan kendala kompleks (seperti batas waktu otonom) ke dalam sistem. Namun, ini mirip dengan sejarah Bitcoin yang menantang sistem moneter global dengan konsep desentralisasi.

Suara Vitalik Buterin bukanlah panduan kewirausahaan khusus sebagai kompas nilai. Di persimpangan jalan bagaimana AI akan membentuk kembali dunia, dia dengan tegas menunjuk pada teknologi yang membuat teknologiMenambah daripada mengganti, pemberdayaan daripada kontrol, open source daripada penutupanarah. Bagi pengembang dan investor generasi asli kripto, ini mungkin menjadi titik awal untuk membangun parit untuk dekade berikutnya: bukan untuk mengejar “Skynet” yang lebih kuat, tetapi untuk menempa “mecha berpikir” yang unik untuk setiap pikiran bebas. Kompetisi ini baru saja dimulai.