D’après l’entretien de CNBC avec le PDG de Perplexity, Aravind Srinivas, l’industrie de l’IA s’oriente vers l’efficacité des coûts et l’optimisation spécifique aux tâches, plutôt que vers la priorité donnée à l’ampleur des modèles. Les entreprises mettent en place des systèmes d’orchestration qui sélectionnent automatiquement le modèle le plus adapté à chaque tâche, au lieu d’utiliser le modèle le plus puissant pour toutes les applications. Les applications de service client peuvent ne pas nécessiter des modèles coûteux, tandis que les tâches de programmation complexes exigent des modèles de gamme supérieure, et le travail d’entreprise de routine peut être géré par des modèles open source moins chers.
Cette semaine, Perplexity a présenté un nouveau système permettant à l’ordinateur d’effectuer des actions, alimenté par le modèle open source GLM 5.2 de l’entreprise chinoise Zhipu, ce qui illustre la tendance vers des architectures hybrides. Le partenaire d’évaluation, Peter Fenton, estime que plus de 90 % des jetons d’IA pourraient être générés par des modèles open source d’ici 18 à 24 mois. Le PDG d’Ollama, Jeff Morgan, a révélé que plus de 85 % des entreprises du Fortune 500 utilisent la plateforme de gestion de modèles open source d’Ollama, y compris dans des secteurs très réglementés comme l’aviation, l’assurance et la santé.