Multi-model konsensus + desentralisasi verifikasi: Bagaimana Mira Network membangun lapisan kepercayaan AI untuk melawan ilusi dan bias?

Melihat jaringan publik Testnet Mira diluncurkan kemarin. Ini berusaha untuk membangun lapisan kepercayaan untuk AI. Jadi, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Orang-orang lebih memperhatikan kekuatan kemampuan AI ketika berdiskusi tentang AI. Namun, menariknya, AI memiliki “ilusi” atau bias. Orang-orang tidak terlalu memperhatikan hal ini. Apa itu “ilusi” AI? Secara sederhana, itu berarti AI kadang-kadang akan “mengarang”, dengan serius berbicara tentang hal yang tidak masuk akal. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink? Ia mungkin akan memberikan banyak penjelasan yang tampak masuk akal dengan serius.

AI memiliki “ilusi” atau bias yang berkaitan dengan beberapa jalur teknologi AI saat ini, misalnya AI generatif akan menghasilkan output konten dengan memprediksi “yang paling mungkin” untuk mencapai koherensi dan kevalidan, tetapi terkadang tidak dapat memverifikasi kebenarannya; selain itu, data pelatihan itu sendiri juga mengandung kesalahan, bias, bahkan konten fiktif, yang juga akan mempengaruhi output AI. Dengan kata lain, AI itu sendiri mempelajari pola bahasa manusia dan bukan fakta itu sendiri.

Singkatnya, mekanisme pembangkitan probabilitas saat ini + pola berbasis data hampir tidak terhindarkan membawa kemungkinan ilusi AI.

Konten yang memiliki output bias atau ilusi, jika hanya merupakan pengetahuan umum atau konten hiburan, sementara waktu tidak akan memiliki konsekuensi langsung. Namun, jika terjadi di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, akan langsung menghasilkan konsekuensi signifikan. Oleh karena itu, mengenai bagaimana mengatasi ilusi dan bias AI, merupakan salah satu masalah inti dalam proses evolusi AI. Beberapa menggunakan teknologi peningkatan pencarian generatif (menggabungkan dengan basis data waktu nyata, memprioritaskan output fakta yang telah diverifikasi), sementara yang lain memperkenalkan umpan balik manusia, dengan penandaan manual dan pengawasan manusia untuk memperbaiki kesalahan model, dll.

Proyek Mira juga berusaha untuk mengatasi masalah bias dan ilusi AI, yaitu, Mira berusaha membangun lapisan kepercayaan untuk AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Jadi, secara keseluruhan, bagaimana Mira mengurangi bias dan ilusi AI, dan akhirnya mewujudkan AI yang dapat dipercaya?

Inti dari Mira untuk mencapai ini adalah dengan memvalidasi output AI melalui konsensus dari beberapa model AI. Dengan kata lain, Mira sendiri adalah jaringan verifikasi yang memvalidasi keandalan output AI, dan ia memanfaatkan konsensus dari beberapa model AI. Selain itu, satu hal yang sangat penting adalah konsensus terdesentralisasi untuk melakukan verifikasi.

Dengan demikian, kunci dari jaringan Mira adalah verifikasi konsensus terdesentralisasi. Verifikasi konsensus terdesentralisasi adalah sesuatu yang dikuasai oleh bidang kripto, dan pada saat yang sama, ia juga memanfaatkan kolaborasi multi-model ini, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.

Dalam hal arsitektur verifikasi, perlu ada pernyataan yang dapat diverifikasi secara independen, protokol Mira mendukung mengubah konten yang kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Pernyataan ini memerlukan keterlibatan operator node untuk melakukan verifikasi, untuk memastikan kejujuran operator node, di sini akan digunakan insentif/punishment ekonomi kripto untuk mencapainya, dengan melibatkan berbagai model AI + operator node yang terdistribusi untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus untuk mencapai keandalan verifikasi. Dalam arsitektur ini, konversi konten adalah bagian yang penting. Jaringan Mira pertama-tama akan membagi konten yang diusulkan (umumnya diserahkan oleh pelanggan) menjadi berbagai pernyataan yang dapat diverifikasi (untuk memastikan model dapat dipahami dalam konteks yang sama), pernyataan-pernyataan ini kemudian didistribusikan oleh sistem ke node untuk diverifikasi guna menentukan validitas pernyataan, dan mengumpulkan hasil untuk mencapai konsensus. Hasil dan konsensus ini akan dikembalikan kepada pelanggan. Selain itu, untuk melindungi privasi pelanggan, konversi konten yang diusulkan dipecah menjadi pasangan pernyataan, dan mereka akan diberikan kepada node yang berbeda dengan cara pemecahan acak untuk mencegah kebocoran informasi selama proses verifikasi.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil verifikasi. Mengapa operator node bersedia berpartisipasi dalam verifikasi klaim? Karena ada keuntungan yang bisa didapat. Dari mana manfaatnya berasal? Dari nilai yang diciptakan untuk pelanggan. Tujuan dari jaringan Mira adalah untuk mengurangi tingkat kesalahan (ilusi dan bias) AI, dan begitu tujuannya dapat dicapai, itu dapat menghasilkan nilai, seperti mengurangi tingkat kesalahan di bidang-bidang seperti kedokteran, hukum, penerbangan, keuangan, dll., yang akan menghasilkan nilai yang besar. Akibatnya, pelanggan bersedia membayar. Tentu saja, keberlanjutan dan skala pembayaran tergantung pada apakah jaringan Mira dapat terus memberikan nilai kepada pelanggan (mengurangi tingkat kesalahan AI). Selain itu, untuk mencegah perilaku oportunistik node dengan respons acak, node yang terus menyimpang dari konsensus akan mengurangi token saham mereka. Singkatnya, ini untuk memastikan bahwa operator node secara jujur berpartisipasi dalam verifikasi melalui permainan mekanisme ekonomi.

Secara keseluruhan, Mira menyediakan pendekatan baru untuk mencapai keandalan AI dengan membangun jaringan verifikasi konsensus terdesentralisasi di atas beberapa model AI, yang memberikan layanan AI kepada pelanggan dengan keandalan yang lebih tinggi, mengurangi bias dan ilusi AI, untuk memenuhi kebutuhan pelanggan akan akurasi dan presisi yang lebih tinggi. Dan di atas dasar memberikan nilai kepada pelanggan, memberikan keuntungan bagi para peserta jaringan Mira. Jika diringkas dalam satu kalimat, Mira berusaha membangun lapisan kepercayaan untuk AI. Ini berperan dalam mendorong penerapan AI yang lebih mendalam.

Saat ini, kerangka agen AI yang bekerja sama dengan Mira termasuk ai16z, ARC, dan lainnya. Jaringan publik Mira meluncurkan Testnet kemarin, pengguna yang berpartisipasi dalam Testnet publik Mira dapat menggunakan Klok, yang merupakan aplikasi obrolan LLM berbasis Mira. Menggunakan aplikasi Klok, pengguna dapat merasakan output AI yang telah diverifikasi (dapat dibandingkan dengan output AI yang belum diverifikasi) dan juga dapat menghasilkan poin Mira. Mengenai apa kegunaan poin tersebut di masa depan, belum ada informasi yang diungkapkan.