CNBCによると、CognitionのCEOであるScott Wu氏やCiscoのCPOであるJeetu Patel氏を含むAIリーダーたちは今週、モデル・ルーティング――複雑さに基づいてタスクを適切なAIモデルに振り分ける解決策――が、米国企業における重要なコスト規律になりつつあると明らかにしました。
現在、GleanのCEO Arvind Jain氏によれば、企業でのAI利用の約95%は、定型的なタスクであっても高額な最先端モデルにデフォルトで頼っています。モデル・ルーティングにより、より安価な代替手段を使った定型作業で、費用対効果が5〜10倍向上する可能性があります。Ciscoのコスト分析は、その圧力を裏づけています。従業員1人あたり週あたりの$200のトークン利用量の場合、同社は従業員9万人に対して年間およそ9億ドルのAI支出を抱えることになります。企業が高頻度で簡単なタスクを、より安価な、またはオープンソースのモデルにますます振り分けるようになれば、OpenAIとAnthropicは複雑な作業に対してのみ報酬を受け取ることになり、両社がこれまで評価に基づいて構築してきた価格モデルが、変わる可能性があります。
