Anthropic Menyerukan Jeda Global Pengembangan AI Frontier, 5 Juni

Dalam unggahan blog hari Kamis dari Anthropic, perusahaan riset AI itu menyerukan jeda global untuk pengembangan AI frontier pada 5 Juni, dengan mengutip risiko dari perbaikan diri yang berulang (recursive self-improvement) dalam sistem AI. Anthropic mengungkap data internal yang menunjukkan model-model paling canggihnya meraih peningkatan kinerja secara cepat, serta memperingatkan bahwa sistem AI bisa segera mencapai optimasi otonom tanpa campur tangan manusia, sehingga menimbulkan risiko sosial yang signifikan.

Perusahaan itu mengusulkan pembentukan kesepakatan global untuk memperlambat perkembangan riset AI dan membuat mekanisme verifikasi agar kompetitor mematuhi. Anthropic menyatakan: "Jika dunia bisa memilih untuk memperlambat atau menghentikan sementara pengembangan AI frontier agar masyarakat dan riset bisa mengejar kemajuan teknologi, hal itu akan bermanfaat."