Model OpenAI Akan Secara Bertahap Bermigrasi ke Chip Trainium Kustom Amazon, Kata Altman Ia 'Menanti' Hal Itu

Pesan Berita Gate, 29 April — Model OpenAI yang berjalan di Amazon Web Services' Bedrock akan secara bertahap bermigrasi ke Trainium, chip AI khusus rancangan Amazon, demikian menurut pernyataan terbaru dari CEO OpenAI Sam Altman dan jajaran eksekutif AWS. Saat ini, model beroperasi dalam lingkungan campuran menggunakan baik GPU dan Trainium, dengan porsi yang semakin besar bergeser ke Trainium seiring waktu. Altman menyatakan perusahaan "menanti untuk memindahkan model ke Trainium."

Eksekutif AWS Garman mengakui bahwa nama Trainium mungkin menyesatkan, karena chip tersebut dirancang untuk pelatihan dan inferensi, dengan inferensi diperkirakan menjadi kasus penggunaan utama ke depan. Namun, Garman menekankan bahwa penjenamaan chip sebagian besar tidak relevan bagi kebanyakan pelanggan, dengan catatan bahwa pengguna berinteraksi dengan OpenAI melalui antarmuka API-nya, bukan secara langsung dengan perangkat keras yang mendasarinya. Saat ditanya tentang integrasi masa depan model non-OpenAI ke Bedrock Managed Agents, Garman menolak memberikan rincian, hanya menyatakan bahwa AWS saat ini berfokus pada kemitraannya dengan OpenAI.

Kolaborasi tersebut menegaskan strategi AWS untuk memanfaatkan silikon kustomnya guna mendukung beban kerja AI utama di platform cloud-nya.