OpenAI và Broadcom ra mắt Jalapeño Chip cho suy luận LLM ở quy mô lớn

OpenAI và Broadcom đã công bố Jalapeño, một con chip mới được thiết kế riêng cho việc suy luận mô hình ngôn ngữ lớn trong các trung tâm dữ liệu. ASIC này được phát triển từ đầu trong chín tháng dựa trên những hiểu biết từ các nhà nghiên cứu của OpenAI và tham khảo lộ trình sản phẩm của công ty.

Broadcom cho biết Jalapeño chuyên biệt hơn cho nhu cầu LLM hiện tại so với phần cứng suy luận hiện có. OpenAI tuyên bố thử nghiệm ban đầu cho thấy con chip mang lại hiệu suất trên mỗi watt tốt hơn đáng kể so với các giải pháp hiện tại, mặc dù các kết quả kỹ thuật chi tiết sẽ được công bố trong những tháng tới.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận