Rebellions executa o modelo de IA A.X K1 da SK Telecom em servidores NPU locais

Rebellions, empresa sul-coreana de semicondutores de IA, operou com sucesso o ultra-grande modelo de IA A.X K1 da SK Telecom em servidores de unidade de processamento neural (NPU) no país, anunciou a empresa em 23 de julho. Usando seu servidor de IA proprietário, o “Rebel Server”, a Rebellions executou o modelo de forma estável com mais de 500 bilhões de parâmetros e demonstrou um serviço de agente de IA capaz de lidar com múltiplas solicitações de usuários ao mesmo tempo. A conquista mostra a viabilidade de operar serviços de IA em grande escala usando apenas modelos de IA nacionais e infraestrutura de NPU, posicionando a empresa como um exemplo prático de capacidades de IA soberana. A Rebellions é membro de um consórcio sob a SK Telecom no projeto de modelos de base de IA independente do Ministério da Ciência e das TIC, responsável por demonstrar infraestrutura de IA baseada em NPUs domésticas.

Rebellions otimiza software para arquitetura MoE e processamento paralelo

A.X K1 usa uma arquitetura de Mixture of Experts (MoE) que seleciona apenas os modelos especialistas necessários para melhorar a eficiência computacional de modelos em grande escala. A Rebellions otimizou software dedicado para o modelo MoE e aplicou tecnologia para distribuir várias operações entre NPUs para processamento paralelo. Com isso, um único servidor pôde processar múltiplas solicitações de usuários em tempo real. A empresa afirmou que um único Rebel Server entrega desempenho de infraestrutura comparável ao de servidores globais de GPU (unidade de processamento gráfico) de alto desempenho, reduzindo a construção de data centers e os encargos operacionais.

Rebel Server demonstra serviço de agente de IA multiusuário em tempo real

Na demonstração, a Rebellions mostrou um serviço de agentes em que os usuários podiam fazer perguntas como “farmácias disponíveis nos fins de semana” e receber resultados exibidos em um mapa. O sistema processou respostas em tempo real mesmo em cenários nos quais vários usuários, ao mesmo tempo, enviavam perguntas diferentes. A demonstração validou a capacidade do servidor de lidar com cargas de trabalho simultâneas multiusuário com desempenho estável.

Rebellions participa do projeto governamental de modelos de base de IA

Park Sung-hyun, CEO da Rebellions, disse: “Este é um caso prático de IA soberana mostrando que serviços de IA em grande escala podem ser operados usando apenas modelos ultra-grandes nacionais e NPUs domésticas.” A Rebellions participa como membro de um consórcio sob a SK Telecom no projeto de modelos de base de IA independente do Ministério da Ciência e das TIC, no qual é responsável por demonstrar infraestrutura de IA baseada em NPUs domésticas.

FAQ

O que a Rebellions conseguiu com o modelo A.X K1 da SK Telecom?

A Rebellions operou com sucesso o modelo de IA A.X K1 da SK Telecom, que tem mais de 500 bilhões de parâmetros, em seu Rebel Server baseado em NPU doméstica. A empresa demonstrou um serviço de agente de IA capaz de lidar com múltiplas solicitações de usuários simultaneamente em tempo real.

Como o Rebel Server da Rebellions lida com grandes modelos de IA com eficiência?

O Rebel Server otimiza o software para a arquitetura de Mixture of Experts (MoE) usada no A.X K1, distribuindo várias operações entre NPUs para processamento paralelo. Isso permite que um único servidor obtenha desempenho de infraestrutura comparável ao de servidores globais de GPU de alto desempenho, enquanto processa várias solicitações de usuários em tempo real.