Em entrevista à CNBC, o CEO da Perplexity, Aravind Srinivas, disse que a indústria de IA está mudando do foco na escala dos modelos para eficiência de custos e otimização voltada a tarefas específicas. As empresas estão criando sistemas de orquestração que selecionam automaticamente o modelo mais adequado para cada tarefa, em vez de usar o modelo mais poderoso para todas as aplicações. Aplicativos de atendimento ao cliente talvez não precisem de modelos caros, enquanto tarefas complexas de programação exigem modelos de nível mais alto, e rotinas de trabalho corporativo podem ser feitas com modelos open source de menor custo.
Esta semana, a Perplexity apresentou um novo sistema de “uso de computador” alimentado pelo modelo open source GLM 5.2, da empresa chinesa de IA Zhipu, refletindo a tendência de arquiteturas de IA híbridas. O parceiro de benchmarks Peter Fenton prevê que mais de 90% dos tokens de IA poderiam ser gerados por modelos open source em 18 a 24 meses. O CEO da Ollama, Jeff Morgan, revelou que mais de 85% das empresas da Fortune 500 agora usam a plataforma de gerenciamento de modelos open source da Ollama, incluindo setores altamente regulados como aviação, seguros e saúde.