Para menteri keuangan, bankir sentral, dan eksekutif keuangan senior semakin fokus pada potensi risiko yang ditimbulkan oleh model Anthropic Claude Mythos, di tengah kekhawatiran bahwa model itu dapat mengungkap kelemahan penting dalam infrastruktur keuangan global.
Ringkasan

• Para pemimpin keuangan global memperingatkan bahwa AI Mythos dari Anthropic dapat mengekspos kekurangan kritis dalam sistem keuangan dan inti TI.
• Bank dan pemerintah sedang menguji model tersebut sejak awal untuk mengidentifikasi kerentanan sebelum rilis yang lebih luas.
• Para pejabat memperingatkan bahwa alat semacam itu dapat membantu pelaku kejahatan siber mengeksploitasi kelemahan bahkan ketika mereka memperkuat pertahanan.

Model tersebut telah memicu diskusi tingkat tinggi dan pertemuan bergaya keadaan darurat setelah pengujian awal menemukan kerentanan di berbagai sistem operasi utama dan aplikasi yang banyak digunakan. Para pejabat dan pakar industri mengatakan sistem itu mungkin memiliki kemampuan yang “belum pernah terjadi sebelumnya” untuk mendeteksi dan mengeksploitasi celah keamanan siber, meski sebagian pihak menegaskan bahwa kemampuan penuhnya masih belum sepenuhnya dipahami.

Menteri Keuangan Kanada François-Philippe Champagne mengatakan isu tersebut mendominasi pembicaraan selama pertemuan International Monetary Fund pekan ini di Washington.

“Dengan pasti, ini cukup serius untuk menjamin perhatian semua menteri keuangan,” katanya, seraya menambahkan bahwa, tidak seperti risiko fisik, tantangan dengan AI adalah “unknown, unknown” yang belum diketahui.

Ia menekankan perlunya langkah pengamanan, dengan mengatakan otoritas harus memastikan “kita memiliki proses yang membuat kita memastikan ketahanan sistem keuangan kita.”

Bank dan pemerintah bergerak untuk menguji sistem sebelum rilis

Bank-bank besar dan lembaga pemerintah kini diberi akses awal ke Mythos untuk menilai kerentanan sebelum peluncuran yang lebih luas.

C. S. Venkatakrishnan, chief executive Barclays, mengatakan kekhawatiran tersebut cukup signifikan untuk menuntut perhatian segera.

“Ini cukup serius sehingga orang harus merasa perlu khawatir,” katanya. “Kita harus memahaminya dengan lebih baik, dan kita harus memahami kerentanan yang terungkap, serta memperbaikinya dengan cepat.”

Ia menambahkan bahwa situasi ini mencerminkan sistem keuangan yang lebih terhubung, di mana risiko dan peluang semakin saling terkait.

Anthropic telah menunjukkan bahwa Mythos sudah menemukan beberapa kekurangan di berbagai sistem operasi, platform keuangan, dan peramban web. Sebagai respons, akses dibatasi pada kelompok kecil institusi, termasuk perusahaan teknologi besar dan bank-bank yang dianggap sangat penting secara sistemik, sehingga mereka dapat memperkuat pertahanan sebelum paparan yang lebih luas.

Otoritas di Amerika Serikat telah mengambil langkah serupa. Departemen Keuangan telah mendorong bank-bank terkemuka untuk menerapkan model tersebut secara internal guna mengidentifikasi kelemahan, sekaligus mengeksplorasi cara agar versi yang terkontrol dapat tersedia bagi lembaga federal. Sebuah memo dari Kantor Manajemen dan Anggaran Gedung Putih menguraikan rencana untuk memperkenalkan langkah pengamanan sebelum akses semacam itu diberikan.

Andrew Bailey, gubernur Bank of England, mengatakan implikasi bagi kejahatan siber harus dipandang serius.

“Kami harus melihat dengan sangat saksama apa arti perkembangan AI terbaru ini bagi risiko kejahatan siber,” katanya, seraya memperingatkan bahwa alat semacam itu dapat membuatnya lebih mudah bagi “pelaku beritikad buruk” untuk mengidentifikasi dan mengeksploitasi kerentanan sistem.

Pejabat senior AS, termasuk Scott Bessent dan Jerome Powell, telah mengumpulkan eksekutif Wall Street untuk menanggapi risikonya. Hadirin yang dilaporkan termasuk para pemimpin dari bank-bank besar seperti Goldman Sachs, Bank of America, Citigroup, dan Morgan Stanley, yang menegaskan pentingnya isu tersebut secara sistemik.

Suara dari industri menunjukkan kekhawatiran tersebut mungkin tidak terbatas pada Anthropic. Sumber menyebutkan bahwa perusahaan AI AS lain bisa merilis model yang memiliki kemampuan serupa tanpa langkah pengamanan yang sebanding.

James Wise dari Balderton Capital menggambarkan Mythos sebagai “yang pertama dari apa yang akan menjadi banyak model yang jauh lebih kuat” yang mampu mengekspos kerentanan sistem. Unit Sovereign AI miliknya berinvestasi pada perusahaan yang berfokus pada keamanan AI, sambil menambahkan, “Kami berharap model yang mengekspos kerentanan juga merupakan model yang akan memperbaikinya.”

Apa itu Claude Mythos?

Mythos adalah bagian dari keluarga model Claude dari Anthropic, sebuah sistem yang bersaing dengan penawaran dari OpenAI dan Google. Tidak seperti rilis-rilis sebelumnya, perusahaan membatasi akses karena kekhawatiran bahwa alat tersebut dapat disalahgunakan untuk mengungkap celah sensitif atau membobol sistem yang dilindungi.

Pengujian internal memunculkan alarm setelah model itu mengidentifikasi bug kritis yang biasanya memerlukan peretas yang sangat terampil untuk menemukannya. Beberapa kerentanan dilaporkan berasal dari puluhan tahun lalu, yang menyoroti celah yang belum terdeteksi oleh sistem keamanan tradisional.

Kekhawatiran tersebut juga merembet ke sengketa kebijakan. Pentagon baru-baru ini menunjuk Anthropic sebagai potensi risiko rantai pasok, sebuah langkah yang biasanya diperuntukkan bagi lawan asing. Perusahaan berhasil menggugat larangan yang diusulkan di pengadilan, dengan berargumen bahwa hal itu akan mengakibatkan kerugian finansial yang signifikan.

Di lingkaran keamanan nasional, Mythos telah memperkenalkan ketidakpastian baru tentang bagaimana ancaman siber dinilai. Salah satu pejabat menggambarkan dampaknya sebanding dengan membekali peretas biasa dengan alat yang mirip dengan yang digunakan oleh operator elite.

Meski ada risikonya, otoritas terus berinteraksi dengan Anthropic. Lembaga federal sedang bersiap menghadapi kemungkinan akses terkontrol, sementara regulator dan institusi keuangan berlomba untuk memahami serta menanggapi kerentanan yang sudah mulai diungkap oleh model tersebut.