Rebellon ejecuta correctamente el modelo de IA con más de 500B parámetros de SK Telecom en servidores domésticos con NPU

De acuerdo con Yonhap News, Rebellon, una empresa nacional de chips de IA, ejecutó con éxito hoy (23 de julio) en su Rebel Server el modelo A.X K1 de SK Telecom (500B+ parámetros), utilizando procesadores NPU nacionales. La demostración mostró que el modelo gestionaba múltiples solicitudes simultáneas de los usuarios en tiempo real, con un servicio de agente de IA que procesaba consultas como encontrar farmacias disponibles los fines de semana. Rebellon aplicó una arquitectura de mezcla de expertos (MoE) para optimizar la eficiencia computacional y distribuir las cargas de trabajo entre los núcleos NPU para el procesamiento en paralelo, lo que permitió un rendimiento en infraestructura de un solo servidor comparable al de servidores GPU de gama alta, a la vez que redujo la carga operativa del centro de datos.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios