Sam Altman Menguraikan Lima Prinsip Operasional OpenAI, Menandakan Kemungkinan Pembatasan Kemampuan Model di Masa Depan demi Keselamatan

Pesan dari Gate News, 27 April — CEO OpenAI Sam Altman merilis lima prinsip operasional untuk perusahaan tersebut dengan tanda tangan pribadinya, menandakan bahwa OpenAI mungkin membatasi akses pengguna ke kemampuan model pada periode tertentu untuk memprioritaskan keselamatan. Dalam pernyataan tersebut, Altman menguraikan skenario masa depan yang mungkin di mana perusahaan perlu "mengorbankan sebagian pemberdayaan sebagai imbalan atas ketahanan yang lebih besar."

Altman menekankan bahwa keputusan AI yang kritis harus dibuat melalui proses demokratis, bukan ditentukan semata oleh lab AI. Ia membela pembelian besar-besaran OpenAI atas daya komputasi, pembangunan pusat data global, serta upaya integrasi vertikal yang dilakukan baru-baru ini, dengan menyatakan tujuan tersebut adalah menurunkan biaya AI agar teknologi dapat diakses oleh semua orang. Altman mencatat bahwa pemerintah mungkin perlu mengeksplorasi model ekonomi baru untuk memastikan pembagian nilai. Ia juga menyoroti skenario risiko tertentu: model yang sangat kuat dapat menurunkan ambang untuk menciptakan patogen baru yang memerlukan respons pada tingkat masyarakat.

Altman menyinggung keraguan historis OpenAI terkait rilis bobot GPT-2, mengakui bahwa kehati-hatian tersebut berlebihan jika dilihat dari belakang, tetapi mencatat bahwa hal itu mengarah pada strategi penerapan bertahap yang terus digunakan OpenAI hingga hari ini.