Modelos de OpenAI para migrar gradualmente al chip Trainium personalizado de Amazon, dice Altman que está “mirando con ilusión” hacia ello

Mensaje de Gate News, 29 de abril — Los modelos de OpenAI que se ejecutan en Amazon Web Services' Bedrock migrarán gradualmente a Trainium, el chip de IA diseñado a medida por Amazon, según declaraciones recientes del CEO de OpenAI, Sam Altman, y de ejecutivos de AWS. Actualmente, los modelos funcionan en un entorno mixto usando tanto GPU y Trainium, con una proporción cada vez mayor que se desplaza hacia Trainium con el paso del tiempo. Altman afirmó que la empresa “está mirando con ilusión la posibilidad de trasladar modelos a Trainium”.

El ejecutivo de AWS, Garman, reconoció que el nombre de Trainium pudo haber sido engañoso, ya que el chip está diseñado tanto para entrenamiento como para inferencia, y se espera que la inferencia sea el principal caso de uso en adelante. Sin embargo, Garman recalcó que la marca del chip es en gran medida irrelevante para la mayoría de los clientes, señalando que los usuarios interactúan con OpenAI a través de su interfaz de API en lugar de hacerlo directamente con el hardware subyacente. Cuando se le preguntó sobre la integración futura de modelos no pertenecientes a OpenAI en Bedrock Managed Agents, Garman se negó a proporcionar detalles específicos y se limitó a señalar que AWS actualmente se centra en su asociación con OpenAI.

La colaboración subraya la estrategia de AWS de aprovechar su silicio personalizado para respaldar cargas de trabajo importantes de IA en su plataforma en la nube.