MIT: Jangan panik tentang kiamat AI, kemampuan verifikasi adalah sumber daya yang langka

Sumber: Podcast Bankless; Disusun oleh: Felix, PANews

Ekonom dari MIT (Institut Teknologi Massachusetts), Christian Catalini, menjadi tamu di acara Ryan dan David untuk mengupas secara mendalam paper terbarunya yang berjudul “Beberapa Ekonomi Sederhana dari Artificial General Intelligence”. Paper tersebut menyatakan bahwa sumber daya yang langka dalam “era AI” tidak lagi adalah kecerdasan, melainkan verifikasi: kemampuan manusia untuk memeriksa, menilai, dan memastikan bahwa output AI adalah benar.

Christian menjelaskan dua kurva biaya yang menata ulang berbagai industri (biaya otomatisasi dan biaya verifikasi), termasuk mengapa pekerjaan tingkat pemula pertama-tama menghilang, serta mengapa bahkan pakar teratas pun tanpa sadar melatih penerusnya sendiri (“kutukan para programmer”). Ia juga menggambarkan tiga jenis peran yang tetap terpelihara selama masa transisi: direktur, pencipta makna, dan penanggung jawab tanggung gugat.

PANews merangkum poin-poin utama percakapan tersebut.

Pemandu: Saya merasa banyak pendengar mungkin punya rasa takut yang mirip dengan saya soal AI. Menurut Anda, mengapa orang-orang khawatir tentang AI? Apakah kekhawatiran mereka masuk akal?

Christian: Kita semua merasakannya. Ini adalah masa perubahan yang cepat dan transformatif; semakin dekat Anda dengan kode, semakin cepat Anda mungkin menyaksikan percepatan ini, pertumbuhan eksponensial yang dalam beberapa bulan terakhir menjadi sangat nyata. Teknologi ini membuat banyak hal yang dulu orang kira butuh waktu lebih lama menjadi bisa dilakukan. Itulah sensasi yang sedang kita semua hadapi. Tetapi saya pikir “kiamat” itu keliru; orang-orang sering meremehkan potensi yang dibawa oleh alat-alat ini. Ya, akan ada masa transisi yang sangat sulit, kecepatan perubahan pekerjaan belum pernah terlihat dalam sejarah. Namun sekalipun begitu, jika Anda memanfaatkan “kekuatan terbesar” dari teknologi ini dan berinvestasi di dalamnya, dalam jangka panjang dampaknya terutama positif, meski sepanjang jalan akan sangat berombak. Ekonomi memandang pekerjaan sebagai kumpulan tugas; beberapa tugas akan otomatis. Ini kabar baik, tetapi yang kuncinya adalah bagaimana Anda melakukan reskilling dan tetap berada di garis depan.

Pemandu: Menurut Anda, siapa yang paling dulu terkena dampak?

Christian: Ini pertanyaan yang sangat bagus, dan saya punya banyak pemikiran yang berbeda. Pertama, ketika saya mengatakan orang yang paling dekat dengan kode akan terkena dampak paling awal, maksudnya adalah mereka pertama kali merasakan betapa kuatnya teknologi ini. Seperti yang diungkapkan oleh “paradoks Jevons”, ketika sesuatu menjadi lebih efisien, kita justru akan mengonsumsi lebih banyak—misalnya kita akan menulis lebih banyak perangkat lunak. Saya berpikir pemrograman akan terpecah seperti banyak profesi lain; di paper kami, kami menyebutnya “siklus pemula yang hilang”. Jika Anda masih pemula dan belum memiliki “pengetahuan diam-diam” yang membedakan produk yang unggul dari yang biasa, maka AI bisa menggantikan Anda dengan cukup baik di berbagai bidang.

Sekarang setiap orang bisa dengan mudah memperoleh pemasar yang lumayan, programmer pemula, atau bahkan pengacara yang bisa membantu menangani sebagian besar situasi; yang Anda perlukan hanya di tahap akhir meminta pengacara tingkat terbaik untuk verifikasi terakhir. Di sisi lain, bahkan pakar teratas sekalipun, selama proses penerapan AI, tanpa sadar atau dengan sengaja menciptakan label, jejak informasi, dan jejak angka—yang pada akhirnya membuat pekerjaan mereka sendiri dapat diautomasi. Laboratorium-laboratorium terkemuka sedang merekrut talenta terbaik di bidang seperti keuangan untuk menciptakan standar penilaian, mengintegrasikan pengetahuan domain tersebut ke dalam model-model fondasi. Jadi menurut saya tidak ada satu pekerjaan pun yang benar-benar 100% aman; bahkan pekerjaan fisik yang dibatasi oleh kemampuan membuat robot pun, model penghargaan di beberapa tahun ke depan akan melonjak besar. Apa pun yang terjadi di depan layar bisa dilacak, direplikasi, dan dipelajari. Untuk setiap profesi, yang penting adalah memikirkan: jika saya mendelegasikan sebanyak mungkin pekerjaan kepada AI, di mana lagi saya bisa menambah nilai?

Sebenarnya, orang-orang punya banyak “pelipur lara” tentang “selera” dan “penilaian”. Ini sangat kabur. Jadi dalam paper, kami mengatakan: tidak ada yang namanya selera atau penilaian yang baik dan buruk; yang ada adalah perbedaan antara yang “bisa diukur” dan yang “tidak bisa diukur”. Jika sesuatu sudah diukur, mesin bisa mereplikasinya. Jika sesuatu masih tertanam dalam bobot saraf otak Anda—misalnya seorang desainer kelas atas yang mengumpulkan puluhan ribu jam pengalaman, mampu memutuskan mana yang harus dipublikasikan dan mana yang tidak—itulah yang kami sebut “verifikasi”. Semua verifikasi adalah langkah terakhir ini: agen AI menciptakan produk, lalu Anda sebagai pengambil keputusan menilai apakah produk itu memenuhi standar untuk dilempar ke pasar. Seiring mesin memperoleh data yang lebih baik, berbagai hal akan diautomasi; tetapi untuk wilayah yang belum diketahui, atau tempat yang sama sekali tidak ada datanya, bagian ini dalam beberapa tahun ke depan masih menjadi wilayah manusia.

Pemandu: Ini wawasan yang sangat mendalam. Tapi saya juga bertanya-tanya: otomatisasi pekerjaan insinyur terjadi secara alami. Apakah dampak yang diterima setiap industri sama?

Christian: Kita punya bukti yang cukup untuk mengatakan bahwa perubahan akan tidak merata. Bisa dipikirkan begini: apakah pekerjaan ini hanyalah semacam “pembungkus” untuk sesuatu yang sebenarnya tidak terlalu dibutuhkan oleh masyarakat? Misalnya pekerjaan konsultasi pada umumnya—jika terutama membungkus ulang, menyaring, dan merangkum informasi yang sudah tersedia luas—jelas ada risikonya. Tapi jika pekerjaan itu menghadirkan pengetahuan profesional yang langka, atau diperlukan demi alasan politik untuk memakai konsultan, maka pekerjaan itu akan bertahan. Tanyakan pada diri Anda: profesi ini bisa menghasilkan profit karena ia memecahkan masalah yang kompleks, atau hanya karena ada semacam hambatan buatan.

Pemandu: Sebenarnya apa arti “verifikasi”? Saya kesulitan memecah pekerjaan saya sehari-hari menjadi mana yang termasuk pekerjaan kognitif dan mana yang termasuk verifikasi.

Christian: Agen sudah belajar dan mengukur semuanya dari jaringan dan buku, karena itu lebih murah dan lebih mudah diskalakan, sehingga akan menggantikan bagian yang bisa diukur. Tetapi hal yang belum diketahui agen—yaitu bobot jaringan saraf unik yang ada di otak Anda. Itu Anda peroleh melalui pengalaman dan pergulatan Anda sendiri; inilah yang membuat Anda menjadi pakar kelas atas. Contohnya, peserta kripto awal—banyak yang berasal dari Argentina, Venezuela, dan tempat lain—pernah mengalami inflasi ganas secara langsung; respons mereka terhadap aset benar-benar berbeda. Ukuran internal yang unik ini tetap menjadi keunggulan besar.

Apa itu verifikasi? Itu adalah perbedaan antara standar ukuran Anda sendiri tentang dunia dan standar yang dimiliki agen. Seperti editor kelas atas yang pasti tahu artikel mana yang akan beresonansi; atau CTO kelas atas yang, ketika menghadapi kumpulan kode berlimpah yang dihasilkan AI, pasti tahu bagian-bagian tepi yang menentukan harus dicek langsung oleh manusia—bagian yang ini belum bisa diukur oleh mesin.

Pemandu: Saya beri contoh: jika saya melihat di X sebuah video tentang Israel yang diserang rudal, tetapi saya menyadari itu dibuat oleh AI. Saya menggunakan otak saya untuk mengenali masalah dan mungkin melalui pemberian prompt ulang bisa menghasilkan video yang lebih baik—apakah itu “kemampuan verifikasi” saya?

Christian: Ini contoh yang bagus. Lebih jauh lagi, kita mungkin segera sampai pada dunia seperti ini: bagi kebanyakan orang, video ini sulit dibedakan dari kenyataan. Langkah berikutnya, mungkin ahli militer melihat ada yang tidak sesuai dengan dinamika api. Lalu langkah berikutnya, bahkan ahli militer pun tidak bisa membedakannya sekilas—mereka perlu AI untuk menganalisis prinsip fisika dan melakukan simulasi uji. Pada akhirnya, bisa jadi benar-benar tidak bisa dibedakan; saat itulah kita harus bergantung pada infrastruktur berbasis kriptografi untuk memastikan keaslian. Di bidang medis juga demikian; kasus-kasus tepi pada akhirnya memerlukan radiolog top yang memanfaatkan pengalaman 20 tahun serta pemahaman tentang konteks spesifik pasien, untuk membatalkan penilaian AI. Ini adalah lapisan terakhir yang sangat tipis dari “proses penyaringan” yang menjadi perhatian kami. Ketika kita melakukan itu, kita membebaskan banyak waktu. Jadi ini sisi baiknya: kita bisa melakukan lebih banyak hal dengan sumber daya yang lebih sedikit. Biaya untuk hal-hal mahal akan turun. Seluruh masyarakat akan mengonsumsi lebih banyak hal-hal tersebut. Saya pikir ini kabar baik.

Pemandu: Tapi dalam contoh Anda, saat ini dia sedang melakukan verifikasi, tetapi tidak lama kemudian dia tidak bisa lagi—ia perlu komandan militer, dan pada akhirnya bahkan komandan juga tidak bisa memverifikasi, sehingga terpaksa meminta bantuan AI. Bukankah ini justru menunjukkan bahwa verifikasi awalnya bernilai, tapi kemudian akan otomatisasi oleh AI dengan cepat? Jadi apakah “verifikasi” itu sendiri juga tidak aman?

Christian: Benar. Dalam paper, kami menyebutnya “kutukan para programmer”. Melakukan tindakan yang sangat rasional ini—verifikasi—sebenarnya mendorong pengembangan teknologi paling mutakhir dan mengubah data pengalaman menjadi sesuatu yang terukur. Kita tidak bisa berhenti, karena semua pengacara atau praktisi berusaha memakai AI. Verifikasi memang merupakan front mutakhir yang sedang menyusut.

Pemandu: Bahkan area pekerjaan verifikasi terakhir pun makin mengecil—kapan kita tidak perlu cemas lagi?

Christian: Pertama, ada beberapa hal yang secara desain memang tidak bisa diukur, seperti apa yang disebut “permainan status” atau hal-hal yang diberi makna oleh manusia. Bidang-bidang ini tidak akan direbut mesin, karena cirinya adalah koordinasi dan konsensus di antara manusia. Kripto sampai tingkat tertentu juga seperti itu—yang penting adalah konsensus manusia tentang apa yang bernilai. Seiring mengecilnya bidang kerja yang bisa diukur, kita akan menemukan banyak cara agar pekerjaan yang tidak bisa diukur menjadi bermakna.

Pemandu: AI bisa membangun sebuah situs dalam 10 detik, mungkin tidak bisa menulis satu pun cuitan yang menarik bagi manusia. Apakah ini salah satu pekerjaan verifikasi yang mungkin tersisa terakhir?

Christian: Menarik perhatian, membangun lelucon yang benar-benar baru—ini pekerjaan kreatif yang sangat sulit, mencoba mematahkan hal-hal yang belum pernah diukur. Dalam proses kelangsungan hidup yang panjang, kita berevolusi menjadi sangat kuat dalam menghadapi lingkungan yang belum diketahui. Orang yang mengerjakan jenis pekerjaan ini disebut “pencipta makna”. Misalnya di bidang seni atau budaya, apa yang bagus bergantung pada konsensus manusia. Bahkan ketika Anda memakai agen AI, Anda tetap harus menetapkan “intensi”.

Pemandu: Biaya otomatisasi turun secara eksponensial—lalu bagaimana dengan “biaya verifikasi”? Apakah ia selamanya terikat pada batasan biologis manusia?

Christian: Saat ini ia memang terikat pada batasan biologis. Jadi banyak perusahaan merilis banyak kode yang dihasilkan AI, tetapi sama sekali tidak ada cukup tenaga manusia untuk membacanya dan memverifikasinya, sehingga pasti ada risiko yang terselip.

Pemandu: Bukankah bisa menggunakan AI untuk memverifikasi AI?

Christian: Jika AI bisa memverifikasi dengan benar, maka bagian itu sendiri bisa otomatis. Setelah memakai semua verifikasi AI, yang tersisa adalah hal-hal yang benar-benar tidak bisa diverifikasi oleh AI—itulah hambatan untuk intervensi manusia.

Pemandu: Jika verifikasi adalah sumber daya langka yang baru, tetapi terus mundur, lalu bagaimana cara bekerja dan berinvestasi dalam ekonomi ini?

Christian: Kami membuat matriks 2x2 berdasarkan “biaya otomatisasi” dan “biaya verifikasi”. Kuadran kiri bawah adalah pekerja yang tergantikan: otomatisasi mudah, verifikasi juga mudah—Anda pasti tidak ingin berada di sini. Tiga kuadran lainnya adalah:

Pencipta makna: otomatisasi sulit, verifikasi sulit. Mereka berfokus pada konsensus sosial, permainan status, dan koneksi antarmanusia. Misalnya pencipta selera di dunia fashion, KOL kripto di Twitter—mereka menciptakan narasi dan mengoordinasikan perhatian.

Penanggung jawab tanggung gugat: otomatisasi mudah, verifikasi sulit. Mereka adalah pakar top di bidangnya, seperti pengacara top, dokter, atau investor ventura. Mereka memakai AI secara besar-besaran, tetapi menyediakan layanan tanggung gugat dan verifikasi untuk kasus-kasus tepi pada akhirnya.

Direktur: otomatisasi sulit, verifikasi mudah. Intinya adalah “intensi”. Mereka menghadapi “yang tidak diketahui yang tidak diketahui”, seperti layaknya seorang pengusaha yang mengarahkan agen, menetapkan arah, merasakan seberapa jauh terjadi penyimpangan, lalu terus melakukan koreksi haluan.

Pemandu: Bagaimana dengan anak muda yang baru lulus ingin masuk ke dunia kerja? Di satu sisi ada pekerjaan pemula yang tidak bernilai, di sisi lain ada pakar kelas atas yang butuh sepuluh tahun untuk mengasah industri—di antara keduanya ada jurang yang sangat besar. Bukankah AI sudah bisa melakukan pekerjaan tingkat pemula? Jadi bagaimana anak muda tumbuh sampai ke sisi yang lain?

Christian: Jurang itu memang ada. Tapi kabar baiknya adalah Anda bisa memperpendek waktu belajar. Anda bisa melewati langkah-langkah pelatihan tradisional. Seorang insinyur pemula sekarang bisa melakukan pekerjaan yang dulu dikerjakan oleh satu tim hanya dengan bantuan alat. Memang di awal mereka akan membuat kesalahan, tetapi sebagai pendatang baru mereka bisa menantang tradisi dengan sudut pandang yang sangat segar—itulah kelebihannya. Mereka bisa mewujudkan ide dengan cara yang dulu bahkan tidak bisa kita lakukan saat usia muda. Ada keuntungan dan kerugian.

Jalur yang dulu ada: “ambil gelar, cari magang, kerja keras lalu naik pangkat”, memang tidak lagi ada. Ini akan menimbulkan guncangan budaya yang besar. Ini sangat sulit bagi anak muda yang baru lulus. Jika Anda masih kuliah, masih ada waktu untuk melihat arah dengan jelas. Jika Anda sedang berada dalam kesulitan, saran saya: gunakan alat-alat ini untuk membangun sesuatu. Ambisi Anda harus lebih besar 100 kali dibanding ambisi yang dulu kita miliki pada usia itu.

Pemandu: Apakah hilangnya banyak pekerjaan “tinggal pencet tombol” dalam jangka pendek akan membuat masyarakat kacau?

Christian: Masyarakat akan selalu menciptakan kembali pekerjaan “tinggal pencet tombol” saat dibutuhkan untuk menjaga stabilitas. Namun banyak orang yang menjalankan pekerjaan semacam itu sebenarnya mampu melakukan lebih banyak hal, hanya saja dulu dibatasi oleh lingkungan. Ketika kerja fisik tidak lagi diperlukan, kita menciptakan pergi ke gym; dan sekarang saat pembebasan dari kerja otak terjadi, orang-orang akan mengembangkan berbagai pekerjaan sampingan dan ekonomi kreator untuk mendapatkan rasa tantangan. Itulah mengapa saya berpendapat “universal basic income (UBI) tanpa syarat” benar-benar keliru—manusia membutuhkan dorongan untuk memiliki makna dan aktualisasi diri. Selain itu, meskipun sekarang sebagian besar pekerjaan Anda tergantikan oleh otomatisasi, jika Anda memanfaatkan AI sebagai alat super, bahkan karyawan pemula yang baru mulai bisa meledak dan menghasilkan keluaran sebesar tim sebelumnya.

Pemandu: Saran Anda untuk perusahaan dan investor?

Christian: Untuk perusahaan, berinvestasilah pada infrastruktur verifikasi, dan sediakan “tanggung jawab sebagai layanan” (yaitu bukan hanya menyediakan agen, tetapi juga menanggung konsekuensinya). Selain itu, kuasai “sumber fakta eksklusif”, karena AI mudah ditipu. Memberikan nilai yang besar untuk perusahaan seperti data eksklusif yang benar-benar nyata ala Bloomberg, atau penilaian mendalam. Bagi investor, selain investasi pada hal-hal tersebut, fokus pada R&D yang keras dan “tidak bisa diukur”. Dulu, efek jaringan biasa mungkin tidak lagi berlaku; efek jaringan baru akan dibangun pada cara Anda memberikan umpan balik nyata yang lebih baik sehingga agen Anda menjadi lebih andal daripada yang lain, karena yang sebenarnya ingin dibeli orang adalah kecerdasan yang sudah diverifikasi.

Pemandu: Apakah teknologi kripto berguna dalam proses verifikasi ini?

Christian: Infrastruktur dasar yang dibangun dalam bidang kripto selama sepuluh tahun terakhir sangat penting. Ketika kita perlu menentukan keaslian identitas dan mencegah akun diambil alih, teknologi on-chain seperti “proof of personhood” dapat menyediakan verifikasi yang kuat. Ada juga sumber data dan rantai regulasi berbasis kriptografi; kita membutuhkan jaminan kriptografis yang tegas untuk memastikan bahwa pembuatan informasi dan apakah model itu patuh atau tidak.

Pemandu: Apa yang seharusnya dilakukan orang-orang pada tahun mendatang? Apakah Anda tetap optimistis tentang masa depan manusia?

Christian: Pertama, jangan panik. Lakukan banyak eksperimen, dan gunakan alat sebanyak mungkin untuk “mengganti” dan mengotomatisasi versi Anda saat ini. Eksplorasi masa depan melalui banyak hobi justru mungkin menjadi usaha yang paling bermakna. Paling tidak, Anda bisa memetakan batas dan kekurangan model. Untuk banyak kreator konten jaringan, hobi sudah berubah menjadi karier—dan ini akan menjadi arah utama di masa depan. Jika Anda punya anak, temukan bakat mereka dan biarkan mereka tenggelam dalam hal yang mereka cintai—itu yang paling penting. Tidak ada template profesional yang tetap; alat AI baru bisa membantu kalian menemukan jalur yang hanya milik kalian sendiri.