0G Labs Melaporkan Terobosan AI Terdesentralisasi 107B, Menyoroti Pelatihan Hemat Biaya dan Rencana Open-Source

Ringkasan

0G Labs melaporkan bahwa mereka telah melatih model DiLoCoX dengan 107 miliar parameter—lebih besar dari sistem Bittensor—menggunakan pendekatan terdesentralisasi yang efisien biaya, dan telah mulai melatih ulang secara terbuka dengan transparansi penuh serta rencana rilis sumber terbuka.

0G Labs, pengembang infrastruktur blockchain untuk agen kecerdasan buatan, melaporkan bahwa mereka telah melatih model dengan 107 miliar parameter sekitar delapan bulan yang lalu, menandai skala sekitar 48 persen lebih besar dari model yang dikembangkan oleh Bittensor dan merupakan sistem AI terdesentralisasi terbesar yang terdokumentasi hingga saat ini.

Model tersebut, dikenal sebagai DiLoCoX-107B, dilatih pada Juli 2025 menggunakan teknologi yang dikembangkan bekerja sama dengan China Mobile, operator jaringan seluler terbesar di dunia. Menurut penelitian peer-reviewed yang dipublikasikan di arXiv, sistem ini mencapai tingkat efisiensi komunikasi 357 kali lebih tinggi dibandingkan metode AllReduce konvensional saat beroperasi melalui koneksi internet standar 1 Gbps, menunjukkan bahwa pelatihan AI tingkat lanjut mungkin dapat dilakukan tanpa bergantung pada infrastruktur pusat data yang mahal.

Hasil pelatihan awal menunjukkan bahwa arsitektur komputasi terdistribusi dapat bersaing dengan pendekatan terpusat pada tingkat pengembangan model tertinggi. Sementara perusahaan seperti OpenAI, Google, dan Meta berinvestasi besar-besaran dalam kluster GPU skala besar, 0G Labs melaporkan bahwa kerangka kerja terdistribusinya dapat mengurangi biaya sekitar 95 persen, berdasarkan angka yang dikutip oleh Forbes. Sistem ini beroperasi di seluruh node terdesentralisasi yang terhubung melalui infrastruktur internet yang tersedia secara luas.

Sebagai perbandingan, model Covenant-72B dari Bittensor, yang dikembangkan di jaringan Subnet 3 oleh sekelompok kontributor, telah digambarkan sebagai kemajuan penting dalam bidang AI terdesentralisasi. Namun, 0G Labs menyatakan bahwa pekerjaan mereka sebelumnya telah menunjukkan kelayakan pelatihan model dalam skala yang lebih besar, didukung oleh validasi peer-reviewed.

Perusahaan juga mengumumkan bahwa mereka telah memulai fase baru yang melibatkan pelatihan ulang publik dari DiLoCoX-107B, dengan menekankan transparansi dan strategi rilis sumber terbuka. Upaya ini bertujuan untuk menetapkan standar yang lebih jelas untuk praktik pengembangan AI yang dapat diverifikasi.

Setelah selesai, model yang diperbarui diharapkan akan dirilis dengan akses penuh ke bobot, checkpoint, dan tolok ukur kinerja. Proses pelatihan ulang ini juga akan mencakup dokumentasi lengkap, meliputi sumber data, metrik pelatihan, dan mekanisme verifikasi, termasuk validasi berbasis lingkungan eksekusi tepercaya.

Infrastruktur Lengkap untuk AI yang Dapat Diverifikasi

Berbeda dengan sistem yang dikembangkan terutama untuk tujuan eksperimen, DiLoCoX-107B terintegrasi ke dalam infrastruktur berbasis blockchain yang dirancang untuk agen AI. Ini mencakup tumpukan produksi yang siap pakai dengan blockchain layer-one yang kompatibel EVM, sumber daya komputasi terdesentralisasi, kemampuan penyimpanan terdistribusi, dan lapisan ketersediaan data berkinerja tinggi yang jauh lebih cepat dan lebih hemat biaya dibandingkan solusi serupa seperti yang terkait dengan Ethereum.

Perusahaan menyatakan bahwa infrastruktur tersebut dimaksudkan tidak hanya untuk pelatihan model tetapi juga untuk inferensi yang dapat diverifikasi, penyimpanan aman, dan proses penyelesaian di blockchain, mencerminkan kebutuhan operasional yang lebih luas untuk ekosistem agen AI.

Sistem ini menggabungkan beberapa pendekatan teknis, termasuk pipeline paralelisme, koordinasi dual-optimizer antara pembaruan lokal dan global, sinkronisasi tertunda untuk memungkinkan pelatihan berkelanjutan, dan kompresi gradien adaptif untuk mengurangi beban komunikasi sambil mempertahankan akurasi kinerja.

0G Labs menunjukkan bahwa proses pelatihan ulang saat ini sedang berlangsung dan semua data, metodologi, serta hasil terkait akan diungkapkan selama proses berlangsung. Model akhir diharapkan dirilis di bawah lisensi sumber terbuka, dengan akses penuh ke artefak pelatihan.