Các mô hình OpenAI sẽ dần chuyển sang chip Trainium do Amazon tùy chỉnh, Altman cho biết anh ấy đã 'mong chờ' điều đó

Tin tức cổng, ngày 29 tháng 4 — Theo những nhận xét gần đây từ Giám đốc điều hành OpenAI Sam Altman và các lãnh đạo của AWS, các mô hình OpenAI đang chạy trên Amazon Web Services' Bedrock sẽ dần dần chuyển sang Trainium, con chip AI do Amazon tự thiết kế. Hiện tại, các mô hình hoạt động trong một môi trường kết hợp, sử dụng cả GPU và Trainium, với tỷ trọng ngày càng tăng chuyển sang Trainium theo thời gian. Altman cho biết công ty đang "mong chờ việc chuyển các mô hình sang Trainium."

Một lãnh đạo AWS là Garman thừa nhận rằng tên Trainium có thể đã gây hiểu nhầm, vì con chip được thiết kế cho cả huấn luyện và suy luận, trong đó suy luận dự kiến sẽ là trường hợp sử dụng chính trong tương lai. Tuy nhiên, Garman nhấn mạnh rằng việc gắn nhãn cho con chip phần lớn không liên quan đối với đa số khách hàng, khi người dùng tương tác với OpenAI thông qua giao diện API của hãng chứ không phải trực tiếp với phần cứng nền tảng. Khi được hỏi về việc tích hợp trong tương lai các mô hình không thuộc OpenAI vào Bedrock Managed Agents, Garman từ chối cung cấp chi tiết, chỉ nói rằng AWS hiện đang tập trung vào quan hệ đối tác của mình với OpenAI.

Sự hợp tác này nhấn mạnh chiến lược của AWS nhằm tận dụng con chip silicon tùy chỉnh của mình để hỗ trợ các khối lượng công việc AI lớn trên nền tảng đám mây của hãng.