A indústria de IA passa do tamanho dos modelos para a eficiência de custos, a Perplexity adota o GLM 5.2 de código aberto

De acordo com o CEO da Perplexity, Aravind Srinivas, numa entrevista à CNBC, a indústria de IA está a passar de dar prioridade à escala dos modelos para a eficiência de custos e a otimização específica para cada tarefa. As empresas estão a construir sistemas de orquestração que selecionam automaticamente o modelo mais adequado para cada tarefa, em vez de utilizarem o modelo mais poderoso para todas as aplicações. As aplicações de apoio ao cliente podem não exigir modelos caros, enquanto tarefas complexas de programação exigem modelos de nível superior, e o trabalho empresarial rotineiro pode ser tratado por modelos open source de menor custo.

Esta semana, a Perplexity apresentou um novo sistema de utilização de computador, alimentado pelo modelo open source GLM 5.2 da empresa chinesa de IA Zhipu, refletindo a tendência para arquiteturas híbridas de IA. O parceiro de benchmarks, Peter Fenton, prevê que mais de 90% dos tokens de IA possam ser gerados por modelos open source num prazo de 18 a 24 meses. O CEO da Ollama, Jeff Morgan, revelou que mais de 85% das empresas da Fortune 500 já utilizam a plataforma de gestão de modelos open source da Ollama, incluindo setores altamente regulados como a aviação, os seguros e a saúde.