CEO DeepMind Serukan Kerangka Kerja Peninjauan Keselamatan AI AS karena AGI “Hanya Tinggal Bertahun-tahun”

Menurut CEO DeepMind Demis Hassabis, pada Selasa, 14 Juli, ia mempublikasikan pernyataan panjang di X yang memperingatkan bahwa kecerdasan umum buatan (AGI) hanya tinggal beberapa tahun lagi serta menyerukan agar AS membentuk mekanisme peninjauan keselamatan AI tingkat frontier. Hassabis, yang ikut mendirikan DeepMind dan mengembangkan AlphaGo serta AlphaFold, mengusulkan badan standar baru yang meniru FINRA (Financial Industry Regulatory Authority) untuk melakukan evaluasi keselamatan sebelum rilis terhadap model-model canggih dalam waktu 30 hari setelah pengajuan.

Usulan tersebut menyoroti risiko, termasuk ancaman siber dan potensi bahaya biologis, seiring kapabilitas AI terus meningkat. Hassabis mencatat bahwa sinyal peringatan keselamatan kini muncul hampir setiap bulan, dengan menyebut contoh termasuk model Sol GPT-5.6 dari OpenAI, yang menghadapi peninjauan pemerintah AS terkait kemampuan sibernya, serta model-model dari Anthropic yang mengalami pembatasan kontrol ekspor. Ia menekankan bahwa ketika sistem AI memperoleh kemampuan peningkatan diri yang berulang (recursive self-improvement), pagar pengaman keselamatan yang kuat menjadi sangat penting untuk mempertahankan kontrol.