Vitalik Buterin dari Ethereum Peringatkan Risiko Keamanan AI Agent, Bagikan Private LLM Stack

Pendiri Ethereum Vitalik Buterin telah sepenuhnya beralih dari layanan AI berbasis cloud dan merinci setup kecerdasan buatan (AI) miliknya yang sepenuhnya lokal dan tersandboxing di sebuah posting blog yang diterbitkan minggu ini.

Poin-poin Utama:

• Pendiri Ethereum Vitalik Buterin meninggalkan AI cloud pada April 2026, menjalankan Qwen3.5:35B secara lokal di laptop Nvidia 5090 dengan kecepatan 90 token per detik.
• Buterin menemukan bahwa sekitar 15% kemampuan agen AI berisi instruksi berbahaya, seraya mengutip data dari perusahaan keamanan Hiddenlayer.
• Daemon perpesanan open-source miliknya menerapkan aturan konfirmasi 2-of-2 “manusia-plus-LLM” untuk semua tindakan keluar Signal dan email ke pihak ketiga.

Cara Vitalik Buterin Menjalankan Sistem AI yang Self-Sovereign Tanpa Akses Cloud

Buterin menggambarkan sistem itu sebagai “self-sovereign / local / private / secure” dan mengatakan bahwa sistem tersebut dibangun sebagai respons langsung terhadap apa yang ia anggap sebagai kegagalan keamanan dan privasi yang serius yang menyebar di ranah agen AI. Ia menunjuk pada riset yang menunjukkan sekitar 15% kemampuan agen, atau alat plug-in, mengandung instruksi berbahaya. Perusahaan keamanan Hiddenlayer menunjukkan bahwa mengurai satu halaman web berbahaya saja bisa sepenuhnya mengkompromikan sebuah instance Openclaw, memungkinkannya mengunduh dan mengeksekusi skrip shell tanpa sepengetahuan pengguna.

“Saya datang dengan pola pikir yang sangat takut bahwa ketika akhirnya kami melangkah maju dalam privasi dengan makin meluasnya enkripsi end-to-end dan makin banyak perangkat lunak yang memprioritaskan lokal, kita akan berada di ambang mengambil sepuluh langkah mundur,” tulis Buterin.

Perangkat keras pilihannya adalah laptop yang menjalankan GPU Nvidia 5090 dengan memori video 24 GB. Dengan menjalankan model Qwen3.5:35B open-weights dari Alibaba melalui llama-server, setup tersebut mencapai 90 token per detik, yang Buterin sebut sebagai target untuk penggunaan harian yang nyaman. Ia menguji AMD Ryzen AI Max Pro dengan memori terpadu 128 GB, yang mencapai 51 token per detik, dan DGX Spark, yang mencapai 60 token per detik.

Ia mengatakan DGX Spark, yang dipasarkan sebagai superkomputer AI desktop, kurang memuaskan mengingat biayanya dan throughput yang lebih rendah dibandingkan dengan GPU laptop yang bagus. Untuk sistem operasinya, Buterin beralih dari Arch Linux ke NixOS, yang memungkinkan pengguna mendefinisikan seluruh konfigurasi sistem mereka dalam satu berkas deklaratif. Ia menggunakan llama-server sebagai daemon latar (background) yang mengekspos port lokal yang bisa dihubungi oleh aplikasi mana pun.

Claude Code, catatnya, dapat diarahkan ke instance llama-server lokal alih-alih server milik Anthropic. Sandboxing adalah inti dari model keamanan beliau. Ia menggunakan bubblewrap untuk membuat lingkungan yang terisolasi dari direktori mana pun hanya dengan satu perintah. Proses yang berjalan di dalam sandbox tersebut hanya dapat mengakses file yang secara eksplisit diizinkan serta port jaringan yang dikendalikan. Buterin telah merilis daemon perpesanan secara open-source di github.com/vbuterin/messaging-daemon yang membungkus signal-cli dan email.

Ia mencatat bahwa daemon tersebut dapat membaca pesan dengan bebas dan mengirim pesan kepada dirinya sendiri tanpa konfirmasi. Setiap pesan keluar ke pihak ketiga memerlukan persetujuan manusia yang eksplisit. Ia menyebut ini sebagai model “human + LLM 2-of-2”, dan mengatakan bahwa logika yang sama berlaku untuk wallet Ethereum. Ia menyarankan tim yang membangun alat wallet yang terhubung dengan AI untuk membatasi transaksi otonom hingga $100 per hari dan meminta konfirmasi manusia untuk apa pun yang lebih tinggi atau setiap transaksi yang membawa calldata yang dapat mengekfiltrasi data.

Inferensi Jarak Jauh, Sesuai Ketentuan Buterin

Untuk tugas riset, Buterin membandingkan Local Deep Research, alat lokal, dengan setup miliknya sendiri menggunakan framework pi yang dipasangkan dengan SearXNG, sebuah mesin meta-search yang berfokus pada privasi dan di-host sendiri. Ia mengatakan pi plus SearXNG menghasilkan jawaban dengan kualitas yang lebih baik. Ia menyimpan dump Wikipedia lokal berukuran kira-kira 1 terabyte bersama dokumentasi teknis untuk mengurangi ketergantungannya pada kueri pencarian eksternal, yang ia anggap sebagai kebocoran privasi.

Ia juga menerbitkan daemon transkripsi audio lokal di github.com/vbuterin/stt-daemon. Alat tersebut berjalan tanpa GPU untuk penggunaan dasar dan memberi output ke LLM untuk koreksi dan peringkasan. Untuk integrasi ke Ethereum, Buterin mengatakan bahwa agen AI tidak boleh memegang akses wallet yang tidak dibatasi. Ia merekomendasikan untuk memperlakukan faktor konfirmasi manusia dan LLM sebagai dua faktor yang berbeda, yang masing-masing menangkap mode kegagalan yang berbeda.

Untuk kasus ketika model lokal kurang memadai, Buterin menguraikan pendekatan yang menjaga privasi untuk inferensi jarak jauh. Ia menunjuk pada proposal ZK-API miliknya bersama peneliti Davide, proyek Openanonymity, dan penggunaan mixnets untuk mencegah server menautkan permintaan berturut-turut berdasarkan alamat IP. Ia juga menyebut trusted execution environments sebagai cara untuk mengurangi kebocoran data dari inferensi jarak jauh dalam waktu dekat, sambil mencatat bahwa fully homomorphic encryption untuk inferensi cloud privat saat ini masih terlalu lambat agar praktis.

Buterin menutup dengan catatan bahwa postingan tersebut menggambarkan titik awal, bukan produk jadi, dan memperingatkan pembaca agar tidak menyalin alat persisnya dan mengasumsikan alat tersebut aman.