生成 AI が失敗だと判明したらどうなるでしょうか?

著者: Gary Marcus、コンパイラ: Heart of the Metaverse (MetaverseHub)

室温超伝導体と呼ばれる LK-99 が一時的な流行である可能性があるという事実を除けば、生成型人工知能ほど誇大宣伝されているものを見たことがありません。多くの企業の価値は数十億ドルに達し、ニュース記事が溢れ、シリコンバレーからワシントン、ジュネーブに至るまで誰もがそのことについて話題にしていました。

しかし実際には、現在の収入は期待を満たしておらず、達成することさえできない可能性があります。

これらの評価額は数兆ドルの市場を予測していますが、生成 AI からの実際の収益は現在数億ドルであると噂されています。これらの収益は 1,000 倍に増加する可能性がありますが、これは単なる推測です。それが起こると単純に想定すべきではありません。

これまでのところ、収入のほとんどは半自動コードの作成 (プログラマーは生成ツールをアシスタントとして使用することを好みます) とテキストの作成から来ているようです。

プログラマーは Generative AI の支援ツールを喜んで使用すると思います。そのオートコンプリート機能は仕事に非常に役立ち、まれなエラーを見つけて修正するように訓練されています。学部生は生成AIを使い続けるだろうが、彼らの懐は厳しいだろう（そして彼らはおそらくオープンソースの競合他社に目を向けるだろう）。

他の潜在的な支払い顧客はすぐに興味を失う可能性があります。影響力のあるベンチャーキャピタリストのベネディクト・エヴァンス氏は今朝、「X」（旧Twitter）の一連の記事でこの問題について言及した。

学術研究を支援するために ChatGPT を使用して検索に答えようとした私の友人も、同様の失望に直面しました。ある弁護士は、法律調査にChatGPTを使用したとして裁判官から叱責され、今後は監督なしに使用しないことを書面で誓約した。数週間前のニュース報道では、GPT の使用が減少している可能性があると報じられました。

エバンスの経験が何らかの危険信号であるとすれば、現在の評価では、生成 AI の分野全体が急速に終焉を迎える可能性があります。プログラマーは今後もこれを使用し続けるでしょう。また、製品を宣伝し、検索エンジンのランキングを向上させるために多くのコピーライティングを書く必要があるマーケティング担当者も同様です。 しかし、それがコーディングであれ、スピードや凡庸なコピーライティングであれ、現在のバリュエーションの夢を維持するには程遠い。

OpenAIでさえ、290億ドルの評価額を達成するのに苦労しており、数十億ドルもの評価額の競合する新興企業は、最終的には廃業する可能性が高い。おそらく主に人工知能への期待から今年株価をほぼ半減させたマイクロソフトは下落する可能性があり、さらに急騰したエヌビディアも後退する可能性がある。

私は最近、ソフトウェア投資分野の初期のパイオニアであるロジャー・マクナミーとこの問題について話し合いました。 おそらく、私たちにとって本当に魅力的な唯一の経済的ユースケースは検索です。たとえば、Google 検索の代わりに ChatGPT を利用した Bing を使用しますが、それに関連する技術的問題は膨大であり、「錯覚」問題がすぐに解決されると考える理由はありません。解決しないとバブルは簡単に崩壊してしまいます。

しかし、私が今心配しているのは、生成型 AI 経済全体だけではなく、実際の商用利用よりも期待に基づいており、将来的には大規模で胸が張り裂けるような修正が行われる可能性があるだけでなく、私たちが世界や国全体を変えようとしているという事実もあるのです。政策は、AI の生成が世界を変えるという前提に基づいて構築されていますが、後から考えると現実的ではないかもしれません。

国家レベルでは、生成型 AI の開発はできるだけ早く進められるべきであるという反対意見のため、消費者を保護するための規制措置（プライバシー、偏見の軽減、データの透明性の要求、偽情報への対処など）が遅れる可能性があります。期待通りに成長しない可能性のあるものを品種改良しようとしているため、必要な消費者保護が受けられない可能性があります。

私の考えでは、ほぼすべての人が根本的な間違いを犯しています。それは、生成型人工知能が AGI (汎用人工知能、人間と同等以上の知性と敏捷性) と同等であると考えることです。

おそらく、あらゆる業界の人々は、AGI がすぐそこまで来ていると信じてほしいと思っているでしょう。これが彼らの必然性の物語を刺激し、株価とスタートアップの評価を押し上げます。 Anthropic CEO の Dario Amodei は最近、2 ～ 3 年以内に AGI を達成すると予測しました。 Google DeepMind の CEO、Demis Hassabis 氏も、短期的な AGI について予測しました。

とても疑問です。 私たちは、生成 AI の中心で、幻覚や偽情報に対する感受性から、外部と確実に通信できないことまで、1 つではなく多くの深刻な未解決の問題に直面しています。ツールの信頼性の高いドッキングから月ごとの不安定さまで (そのため、大規模システムでのエンジニアリング アプリケーションには実用的ではありません)。

現実には、純粋な技術的楽観主義以外に、これらの問題の解決が差し迫っていると考える具体的な理由はありません。サイズを増やしてシステムを拡張することは、ある面では役立ちますが、別の面では役に立ちません。特定のシステムがお世辞、不正直、有害、または偏ったものではなく、正直で、無害で、有益であるかどうかはまだ保証できません。

AI 研究者はこれらの疑問に何年も取り組んできました。 これらの困難な問題が突然すべて解決されると想像するのは非現実的です。 22 年間、私は幻覚のバグについて不平を言い続けてきましたが、人々は解決策が来ると約束していましたが、それは決して実現しませんでした。なぜなら、私たちの現在のテクノロジーは事実に基づいているのではなく、オートコンプリートに基づいているからです。

しばらくの間、そのような懸念は耳を貸さなかったが、最近になってテクノロジー業界のリーダーの一部もようやく理解したようだ。ほんの数日前、フォーチュン誌は次のようなレポートを発表しました。

幻覚問題が解決されない限り、生成 AI はおそらく年間何兆ドルも生み出すことはできないでしょう。数兆ドルの生産を生み出さないとしても、期待されるような影響は得られない可能性があります。もしそのような効果がないのであれば、その前提で世界を構築すべきではないのかもしれません。