Keputusan AI yang Menyangkut Hidup atau Mati Harus Tetap Dipimpin Manusia, Kata Panel WAIC 2026

Pada Konferensi Dunia Artificial Intelligence 2026, para pembicara termasuk Xue Lan (Direktur Institut Tata Kelola AI Universitas Tsinghua), Nicholas B. Dirks (Presiden dan CEO New York Academy of Sciences), dan Mark Nitzberg (Direktur Eksekutif Center for Human-Compatible Artificial Intelligence di UC Berkeley) membahas tata kelola AI agent. Menurut panel, AI bergeser dari “membantu dalam pengambilan keputusan” menjadi “aksi otonom”, sehingga memerlukan rantai akuntabilitas yang diperluas lintas pengembang, penyebar, dan regulator.

Para pembicara mencapai konsensus: keputusan dengan konsekuensi hidup atau mati, skenario yang tidak bisa diperbaiki begitu keliru, serta semua urusan yang melibatkan penilaian etis dan nilai tidak boleh pernah dipimpin oleh AI. Manusia boleh mengotorisasi tindakan AI tetapi tidak dapat mendelegasikan tanggung jawab. Setiap otorisasi harus dapat dicabut, setiap tindakan dapat ditelusuri, dan kecepatan pemberian kewenangan tidak boleh pernah melebihi kecepatan verifikasi kemampuan AI.