Modelos da OpenAI para Migrar Gradualmente para o Chip Personalizado Trainium da Amazon, Diz Altman Ele Está 'Ansioso' por Isso

Mensagem do Gate News, 29 de abril — Modelos da OpenAI executados no Amazon Web Services' Bedrock irão migrar gradualmente para o Trainium, o chip de IA personalizado da Amazon, de acordo com comentários recentes do CEO da OpenAI, Sam Altman, e de executivos da AWS. Atualmente, os modelos operam em um ambiente misto usando tanto GPUs quanto Trainium, com uma parcela crescente sendo transferida para o Trainium ao longo do tempo. Altman afirmou que a empresa está "ansiosa para levar modelos para o Trainium."

O executivo da AWS, Garman, reconheceu que o nome do Trainium pode ter sido enganoso, já que o chip foi projetado para treinamento e inferência, sendo que a inferência deve ser o principal caso de uso no futuro. No entanto, Garman enfatizou que a marca do chip é em grande parte irrelevante para a maioria dos clientes, observando que os usuários interagem com a OpenAI por meio de sua interface de API em vez de diretamente com o hardware subjacente. Quando perguntado sobre a integração futura de modelos que não sejam da OpenAI ao Bedrock Managed Agents, Garman recusou-se a fornecer detalhes, afirmando apenas que a AWS está atualmente focada em sua parceria com a OpenAI.

A colaboração destaca a estratégia da AWS de aproveitar seus silícios personalizados para dar suporte a grandes cargas de trabalho de IA em sua plataforma de nuvem.