Modelos da OpenAI para migrar gradualmente para o chip personalizado Trainium da Amazon, diz Altman; afirma que está a "olhar em frente"

Mensagem de Gate News, 29 de abril — Os modelos da OpenAI a correr no Amazon Web Services' Bedrock irão gradualmente migrar para o Trainium, o chip de IA personalizado da Amazon, de acordo com comentários recentes do CEO da OpenAI Sam Altman e de executivos da AWS. Atualmente, os modelos operam num ambiente misto usando tanto GPUs como Trainium, com uma quota crescente a migrar para o Trainium ao longo do tempo. Altman afirmou que a empresa está a "olhar em frente a mover modelos para o Trainium."

Um executivo da AWS, Garman, reconheceu que o nome do Trainium pode ter sido enganador, uma vez que o chip foi concebido tanto para treino como para inferência, prevendo-se que a inferência seja o caso de uso principal no futuro. No entanto, Garman salientou que a marcação do chip é em grande medida irrelevante para a maioria dos clientes, ao notar que os utilizadores interagem com a OpenAI através da sua interface de API em vez de diretamente com o hardware subjacente. Quando questionado sobre uma futura integração de modelos que não sejam da OpenAI em Bedrock Managed Agents, Garman recusou-se a fornecer detalhes, afirmando apenas que a AWS está atualmente focada na sua parceria com a OpenAI.

A colaboração sublinha a estratégia da AWS de aproveitar o seu silício personalizado para apoiar grandes cargas de trabalho de IA na sua plataforma cloud.