サム・アルトマンがOpenAIの5つの運用原則を提示、安全のための将来的なモデル機能制限の可能性を示唆

Gate Newsメッセージ、4月27日 — OpenAIのCEOであるサム・アルトマンは、本人の署名のもとで同社向けの5つの運用原則を発表し、安全性を優先するために、特定の期間においてOpenAIがユーザーのモデル機能へのアクセスを制限する可能性を示唆した。声明の中でアルトマンは、同社が「より高いレジリエンスと引き換えに、ある程度の権限付与を犠牲にする必要がある」という、将来の起こり得るシナリオを述べた。

アルトマンは、重要なAIの意思決定は、AIラボだけで決めるのではなく、民主的なプロセスを通じて行うべきだと強調した。アルトマンは、計算能力の大規模な購入、世界的なデータセンターの建設、垂直統合の取り組みが、技術を誰もが利用できるようにするためにAIコストを下げることを目的としていると述べて、OpenAIの最近の大規模な投資を擁護した。アルトマンは、価値の共有を確実にするために政府が新しい経済モデルを模索する必要があるかもしれないと指摘した。さらに、特定のリスクシナリオも強調した。極めて強力なモデルは、新規の病原体を作り出すための敷居を下げ、社会全体レベルでの対応を必要とする可能性があるのだ。

アルトマンは、GPT-2の重みの公開をめぐってOpenAIが歴史的に躊躇してきた点に触れ、振り返ればその慎重さは過剰だったと認めつつ、それが今日もOpenAIが採用し続けている反復的な展開戦略につながったと述べた。