Powell, Bessent Peringatkan Bank Tentang Risiko Keamanan dari AI Mythos milik Anthropic: Bloomberg

Singkatnya

• Pejabat AS memperingatkan bank-bank besar tentang risiko siber yang terkait dengan model AI Mythos dari Anthropic, menurut Bloomberg.
• Sistem tersebut, menurut laporan, dapat mengidentifikasi dan mengeksploitasi kerentanan pada sistem operasi dan browser.
• Anthropic memiliki akses terbatas ke model tersebut saat mengevaluasi potensi risiko keamanan.

Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell, menurut laporan, mengadakan pertemuan dengan para CEO bank-bank Wall Street sebelumnya pekan ini untuk memperingatkan tentang risiko siber yang terkait dengan model kecerdasan buatan baru dari Anthropic. Menurut laporan Bloomberg, pertemuan tersebut dihadiri oleh eksekutif dari Citigroup, Bank of America, Wells Fargo, Morgan Stanley, dan Goldman Sachs. Para pejabat membahas model AI baru Anthropic bernama Mythos, yang baru-baru ini mendapat perhatian luas karena kemampuan siber canggih yang tampak dimilikinya. Para pejabat mengadakan pertemuan tersebut untuk memastikan bank-bank memahami risiko yang ditimbulkan oleh sistem yang mampu mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak di berbagai sistem operasi dan peramban web, serta untuk mendorong institusi memperkuat pertahanan terhadap potensi serangan siber berbantuan AI yang menargetkan infrastruktur keuangan.

Para peneliti keamanan telah memperingatkan bahwa alat yang mampu menemukan kerentanan secara otomatis dapat mempercepat pekerjaan keamanan defensif maupun peretasan berbahaya jika disalahgunakan.  Model Mythos milik Anthropic pertama kali muncul di internet pada bulan Maret setelah materi draf tentang sistem tersebut bocor online, yang mengungkap apa yang disebut perusahaan sebagai model AI paling mampu yang pernah mereka miliki. Dalam pengujian, sistem tersebut, menurut laporan, menemukan ribuan kerentanan perangkat lunak yang sebelumnya belum diketahui, termasuk celah zero-day pada sistem operasi dan browser web utama. Para peneliti Anthropic mengatakan dalam sebuah laporan awal pekan ini bahwa kemampuan Mythos Preview untuk menemukan kerentanan tidak dilatih secara sengaja, melainkan muncul dari peningkatan yang lebih luas pada pengodean, penalaran, dan otonomi model tersebut.

“Peningkatan yang sama yang membuat model secara substansial lebih efektif dalam menambal kerentanan juga membuatnya secara substansial lebih efektif dalam mengeksploitasinya,” tulis perusahaan tersebut. Karena kemampuan tersebut, Anthropic membatasi akses ke sekelompok kecil organisasi keamanan siber. “Dengan kekuatan kapabilitasnya, kami bersikap teliti dalam cara kami merilisnya,” kata Anthropic dalam sebuah pernyataan. “Sebagaimana praktik standar di seluruh industri, kami bekerja dengan kelompok kecil pelanggan akses awal untuk menguji model tersebut. Kami menganggap model ini sebagai lompatan perubahan dan yang paling mampu yang pernah kami bangun hingga saat ini.” Untuk mengatasi risiko itu, Anthropic sedang menguji Mythos melalui Project Glasswing, sebuah kolaborasi dengan perusahaan teknologi dan keamanan siber besar yang menggunakan model tersebut untuk mengidentifikasi dan menambal kerentanan dalam perangkat lunak penting sebelum para penyerang dapat mengeksploitasinya. “Project Glasswing adalah titik awal. Tidak ada satu organisasi pun yang dapat menyelesaikan masalah keamanan siber ini sendirian,” kata perusahaan tersebut dalam sebuah pernyataan. “Pengembang Frontier AI, perusahaan perangkat lunak lainnya, peneliti keamanan, pengelola open-source, dan pemerintah di seluruh dunia semuanya memiliki peran penting untuk dimainkan.” Anthropic tidak segera menanggapi permintaan komentar dari Decrypt.