Moonshot IA open-source Kimi K3, un modèle à 2,8 billions de paramètres, avec une efficacité améliorée de 2,5×

D’après Qbitai, le 28 juillet, Moonshot AI a annoncé la publication en open source complète de Kimi K3, son modèle de 2,8 milliards de paramètres — le plus grand modèle open source au monde en nombre de paramètres. Le déploiement a eu lieu après le lancement initial de K3 le 16 juillet, lors duquel les demandes des utilisateurs ont atteint presque la capacité du cluster en 48 heures.

Kimi K3 affiche des gains d’efficacité de 2,5x sur le rendement computationnel grâce à des innovations techniques, notamment Delta Attention et MoonEP. D’après le PDG d’Osmantic AI, Ahmad, les coûts d’exploitation de K3 s’élèvent à environ la moitié à un tiers de ceux des modèles concurrents tels que Claude d’Anthropic et la série GPT d’OpenAI, avec des réductions potentielles pouvant aller jusqu’à un dixième en cas de requêtes mises en cache.