OpenAIの最高経営責任者（CEO）サム・アルトマンは、米国の政策立案者は先進的な人工知能に備えるため今すぐ行動しなければならないと述べ、同技術が理論から日常的な経済利用へと移行しつつあると警告した。
Axiosとのインタビューでアルトマンは、AIシステムがすでに、かつてはプログラマーのチームが必要だったコーディングや研究のタスクを担っていると語った。より新しいモデルはさらに進み、科学者が大きな発見をするのを助け、個人が大規模な集団の仕事を行えるようにするだろう、と彼は言った。
この変化はすでにサイバーセキュリティにも見えており、一部の業界リーダーは、人工知能が攻撃者に有利な均衡へと傾けていると話している。
たとえばハードウェアウォレットのメーカーLedgerの最高技術責任者（CTO）チャールズ・ギュイメは、CoinDeskに対し、AIツールはソフトウェアの欠陥を見つけて悪用するためのコストと必要スキルを下げていると語った。リバースエンジニアリングのように以前は数か月かかっていたタスクや、複数の脆弱性をつなぎ合わせるといった作業も、適切なプロンプトがあれば、今では数秒で完了できる。
暗号業界では、昨年の攻撃で奪われたり失われたりした資産が14億ドル（$1.4 billion）を超えた。この数字は今後も伸び続ける可能性があると、ギュイメは示唆した。さらに、開発者はAIによって生成されたコードにますます依存しており、それが潜在的に新たな欠陥を大規模に生み出す可能性がある。
彼によれば、この対応には、数学的に検証されたコードと、プライベートキーをオフラインで保持し続けるハードウェアデバイス、そしてシステムは失敗し得るというより広い認識といった、より強力な防御が必要になる。
アルトマンはAIが創薬のスピードや材料科学を高め得ることに言及した一方で、それがより強力なサイバー攻撃を可能にし、有害な生物学的研究のハードルを下げ得ることも指摘した。こうした脅威は1年以内に生じる可能性があり、政府、テック企業、セキュリティ集団の連携が急務だという。
「私たちは、非常に能力の高いオープンソースのモデルがあって、それが生物学にとても強い世界まで、そこまで遠くないと思います」と彼は言った。「社会が、これらのモデルを使って新しい病原体を作ろうとするテロ集団に対してレジリエントである必要は、もはや机上の話ではありません。」
彼が挙げた別の例としては、「今年早くても起こり得る」ような“世界を揺るがすサイバー攻撃”があるとも述べた。それを避けるには、「とてつもない量の作業」が必要になるだろうという。
彼はOpenAIの政策に関するアイデアを出発点として位置付け、速く学習し、多くの分野で行動するシステムをどう管理するかについての議論を押し進めることを狙っている。こうした潜在的な攻撃への防御にAIを使うことは重要だ、と彼は言った。
OpenAIの国有化の可能性について、アルトマンは、それに反対する論拠はライバルよりも先に、米国が「超知能」を達成する必要にあると述べた。
「国有化に対する最大の論拠は、誰か他の誰かがそうする前に、米国が民主主義の価値観に沿った形で超知能を構築することに成功する必要があるということです」と彼は言った。「それは、おそらく政府のプロジェクトとしては機能しないでしょう。そういうのは悲しいことだと思います。」
それでもアルトマンは、AIに関わる企業は米国政府と緊密に連携すべきだと考えていると述べた。
OpenAIでの彼の立場を踏まえると、アルトマンには、そのセクターがどう進化するかに関する金銭的な利害もある。その立場は、規制の緊急性をどう組み立てるか、そして新たに生じるリスクを管理する上でOpenAIのような民間企業がどんな役割を担うべきかを、彼がどのように位置付けるかに影響する可能性があり、ひいては同社の競争上の地位にも影響し得る。
エネルギーは、すぐに進展が見込める分野の一つだと彼は見ている。というのも、計算処理能力の供給能力が増えれば、AI需要が成長するにつれてコストを抑えられる可能性があるからだ。
アルトマンはまた、労働のシフトが始まっている初期の兆しにも言及した。2026年のプログラマーは、1年前のプログラマーとはすでに違う形で働いている、と彼は言った。
AIは、電気のような一種のユーティリティになっていく。基本的なインテリジェンスのコストが下がり、最上位のシステムは高価なままでありつつ、AIはデバイス全体に埋め込まれる。
「クラウド上で、このパーソナルなスーパーアシスタントが動いていることになるでしょう」とアルトマンは言った。「それをたくさん使う、あるいは高いレベルのインテリジェンスで使うなら、ある月の請求額は高くなり、あまり使わなければ請求額は低くなります。」
「AIを作る人々が、高い誠実さを持ち、信頼できる人々であることは、非常に重要です。」
