Kupas peta jalan perkembangan AI, Anda akan menemukan sebuah titik balik yang sering diabaikan — yang benar-benar mengguncang dunia, bukanlah kecerdasan itu sendiri, melainkan saat kecerdasan mulai mengendalikan distribusi sumber daya.

Sebelumnya, AI sekadar alat yang hebat. Setelah itu, barulah benar-benar memasuki kenyataan.

Baru-baru ini ada sebuah proyek bernama Kite, yang sedang melakukan hal tersebut yaitu menangkap titik kritis ini.

**Langkah selanjutnya AI: bukan lebih pintar, tetapi lebih berani bertindak**

Pekerjaan yang dilakukan AI tradisional sangat sederhana — memberikan saran, membuat prediksi, menganalisis data, singkatnya melayani manusia. Tapi dengan munculnya mode Agent, pola ini benar-benar berubah. AI mulai secara mandiri memanggil layanan, secara otomatis mengeksekusi strategi, dan melakukan transaksi tanpa intervensi manusia.

Pada saat ini risiko benar-benar muncul ke permukaan.

AI dapat menghabiskan sumber daya dan memicu biaya saat tidak diawasi, perilakunya tidak lagi sekadar operasi teknis, melainkan operasi ekonomi. Lalu pertanyaannya: siapa yang memberi izin ini? Di mana batasnya? Jika terjadi kesalahan, siapa yang harus bertanggung jawab? Jika semua ini tidak memiliki jawaban, semakin kuat kemampuan AI, semakin tinggi kemungkinan sistem mengalami keruntuhan.

**Penyalahgunaan sumber daya adalah pemicu utama kehilangan kendali AI**

Kebanyakan orang secara otomatis berpikir bahwa AI kehilangan kendali pasti berasal dari "keputusan yang salah". Tapi dalam sistem yang kompleks dan berjalan nyata, yang paling mematikan seringkali bukan kesalahan penilaian, melainkan sumber daya yang diboros-boroskan secara sembarangan.

Tanpa batas anggaran, tanpa batas izin, tanpa batasan panggilan — dalam kondisi vakum seperti ini, bahkan jika niat awal AI baik, ia tetap bisa secara nyata menyeret seluruh sistem ke dalam masalah.