FSB Mendorong Kontrol AI Agenotomi di Keuangan di Tengah Lonjakan Adopsi

Dewan Stabilitas Keuangan (FSB) merilis laporan pada Rabu, 10 Juni, yang menyerukan kontrol lebih ketat terhadap sistem AI agenik di sektor keuangan. FSB menyebutkan risiko dari AI otonom yang dapat terwujud dengan kecepatan tinggi, termasuk tindakan tanpa izin, pelanggaran data, dan gangguan pada sistem yang terhubung. Panduan tersebut menanggapi adopsi AI yang kian cepat—AI yang mampu merencanakan, bernalar, dan mengeksekusi tugas dengan pengawasan manusia yang terbatas—di berbagai area seperti deteksi penipuan, layanan pelanggan, dan fungsi back-office.

Laporan Sektor Keuangan: 52% Adopsi AI Agenik Aktif

Menurut survei Cambridge Centre for Alternative Finance, 52% responden di sektor keuangan melaporkan adopsi aktif AI agenik. Dari jumlah itu, 23% sedang melakukan penskalaan atau transformasi operasi, sementara 29% sedang melakukan uji coba fungsi agenik. AI agenik mengacu pada sistem yang mampu merencanakan, bernalar, dan mengeksekusi tugas dengan pengawasan manusia yang terbatas.

Regulator dan badan pembuat standar global telah meningkatkan peringatan terkait risiko AI sejak Anthropic merilis Mythos, yang dipandang para ahli sebagai menghadirkan tantangan besar di bidang keamanan siber bagi industri perbankan.

FSB Mengidentifikasi Risiko Kecepatan dan Otonomi dalam Sistem AI

Laporan FSB menyatakan bahwa AI otonom menghadirkan risiko yang dapat “terwujud dengan kecepatan tinggi.” Lembaga pembuat standar memperingatkan bahwa agen AI bisa mengejar tindakan yang menyimpang dari niat perusahaan tanpa staf menyadarinya atau dapat melakukan intervensi dengan cepat. Laporan tersebut mencatat bahwa “agen AI menimbulkan tantangan tersendiri bagi pengawasan manusia.”

Risiko yang teridentifikasi mencakup kemungkinan tindakan tanpa izin atau ilegal, pelanggaran data, serta gangguan pada sistem yang terhubung.

Langkah Pengamanan yang Diusulkan Termasuk Batas Persetujuan Manusia dan Batas Waktu Umpan Balik

FSB menguraikan sejumlah “praktik baik” yang diusulkan dalam pedoman yang tidak mengikat dan terbuka untuk masukan hingga 22 Juli. Rekomendasi tersebut mendorong perusahaan keuangan untuk menetapkan batas yang jelas terkait penggunaan AI dan menyematkan pengamanan.

Langkah yang diusulkan mencakup batasan atas apa yang dapat dilakukan agen AI dan persyaratan persetujuan manusia untuk tindakan berisiko tinggi, seperti transaksi keuangan di atas ambang batas tertentu. FSB juga menyarankan perusahaan mempertimbangkan penyesuaian kontrol dan proses HR untuk agen AI dengan cara yang memperlakukan mereka sebagai “karyawan sintetis.”

FAQ

Apa yang dirilis oleh Financial Stability Board pada 10 Juni?

Financial Stability Board merilis laporan pada Rabu, 10 Juni, yang menyerukan kontrol lebih ketat terhadap sistem AI agenik di sektor keuangan. Laporan tersebut menguraikan “praktik baik” yang diusulkan, termasuk batasan pada tindakan agen AI dan persyaratan persetujuan manusia untuk tugas berisiko tinggi.

Seberapa luas AI agenik diadopsi di sektor keuangan?

Menurut survei Cambridge Centre for Alternative Finance, 52% responden di sektor keuangan melaporkan adopsi aktif AI agenik. Dari jumlah itu, 23% sedang melakukan penskalaan atau transformasi operasi, sementara 29% sedang melakukan uji coba fungsi agenik. AI agenik digunakan untuk deteksi penipuan, layanan pelanggan, dan fungsi back-office.