Rebellions implementa el modelo de IA A.X K1 de SK Telecom en servidores NPU nacionales

Rebellions, una empresa surcoreana de semiconductores de IA, ejecutó con éxito el ultramodelo de IA de SK Telecom, A.X K1, en servidores de unidades de procesamiento neuronal (NPU) nacionales, anunció la compañía el día 23. Usando su servidor de IA patentado “Rebel Server”, Rebellions ejecutó de forma estable el modelo con más de 500 mil millones de parámetros y demostró un servicio de agente de IA capaz de gestionar múltiples solicitudes de usuarios simultáneamente. El logro demuestra la viabilidad de operar servicios de IA a gran escala utilizando únicamente modelos de IA nacionales e infraestructura de NPU, posicionándola como un ejemplo práctico de capacidades de IA soberana. Rebellions es miembro de un consorcio bajo SK Telecom en el proyecto de modelos base de IA independiente del Ministerio de Ciencia y TIC, y se encarga de demostrar infraestructura de IA basada en NPU nacionales.

Rebellions optimiza el software para la arquitectura MoE y el procesamiento en paralelo

A.X K1 aplica una arquitectura de Mixture of Experts (MoE) que utiliza selectivamente solo los modelos especialistas necesarios para mejorar la eficiencia computacional de los modelos a gran escala. Rebellions optimizó software dedicado para el modelo MoE y aplicó tecnología para distribuir distintas operaciones entre NPU para el procesamiento en paralelo. Esto permitió que un solo servidor procesara múltiples solicitudes de usuarios en tiempo real. La compañía afirmó que un único Rebel Server ofrece un rendimiento de infraestructura comparable al de servidores globales de unidades de procesamiento gráfico de alto rendimiento (GPU), reduciendo la construcción de centros de datos y las cargas operativas.

Rebel Server demuestra un servicio de agente de IA multiusuario en tiempo real

En la demostración, Rebellions mostró un servicio de agentes en el que los usuarios podían hacer preguntas como “farmacias disponibles los fines de semana” y recibir resultados mostrados en un mapa. El sistema procesó las respuestas en tiempo real incluso en entornos donde varios usuarios introducían simultáneamente preguntas diferentes. La demostración validó la capacidad del servidor para gestionar cargas de trabajo simultáneas de varios usuarios con rendimiento estable.

Rebellions participa en el proyecto gubernamental de modelos base de IA

Park Sung-hyun, CEO de Rebellions, afirmó: “Este es un caso práctico de IA soberana que muestra que los servicios de IA a gran escala pueden operarse utilizando únicamente modelos ultra grandes nacionales y NPU nacionales”. Rebellions participa como miembro de un consorcio bajo SK Telecom en el proyecto de modelos base de IA independiente del Ministerio de Ciencia y TIC, donde se encarga de demostrar infraestructura de IA basada en NPU nacionales.

Preguntas frecuentes

¿Qué logró Rebellions con el modelo A.X K1 de SK Telecom?

Rebellions operó con éxito el modelo de IA A.X K1 de SK Telecom, que tiene más de 500 mil millones de parámetros, en su Rebel Server nacional basado en NPU. La compañía demostró un servicio de agente de IA que gestionó múltiples solicitudes de usuarios simultáneamente en tiempo real.

¿Cómo gestiona el Rebel Server de Rebellions los modelos de IA grandes de forma eficiente?

Rebel Server optimiza el software para la arquitectura Mixture of Experts (MoE) utilizada en A.X K1, distribuyendo distintas operaciones entre NPU para el procesamiento en paralelo. Esto permite que un solo servidor logre un rendimiento de infraestructura comparable al de servidores globales de GPU de alto rendimiento, mientras procesa múltiples solicitudes de usuarios en tiempo real.