Tencent ra mắt mô hình Hy3 lượng tử hóa với 295 tỷ tham số, có thể triển khai trên một GPU duy nhất

2026-07-14 09:10:28

Gần đây, Tencent Hunyuan đã phát hành các phiên bản Hy3 được lượng tử hóa nhằm đáp ứng yêu cầu từ cộng đồng, cho phép mô hình 295 tỷ tham số chạy trên một GPU suy luận duy nhất hoặc thậm chí trên máy cục bộ nếu có đủ bộ nhớ. Nhóm đã lượng tử hóa trọng số Hy3 xuống độ chính xác 1-bit và 4-bit, đóng gói chúng ở định dạng GGUF và tích hợp với hệ sinh thái llama.cpp, nhờ đó những tác vụ trước đây cần các cụm multi-GPU giờ đây có thể triển khai rộng rãi hơn trong nhiều kịch bản.

Xem nguồn

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.

Tin tức liên quan

1giờ trước

Các tối ưu của vLLM từ Nvidia vượt trội hơn AMD trên các mô hình MoE, đạt hơn 12.000 token mỗi giây

4giờ trước

Dẫn chính mã của Qwen từ Alibaba tham gia một công ty internet lớn của Trung Quốc với vai trò Trưởng bộ thuật toán AI lập trình

9giờ trước

OpenAI, Meta và SpaceXAI của Musk ra mắt các mô hình AI tập trung vào chi phí khi ngân sách doanh nghiệp chịu áp lực

10giờ trước

Oriental Compute Core ra mắt chip AI DF1000 với băng thông bộ nhớ 6,4 TB/s vào ngày 13 tháng 7

23giờ trước

Grok 4.5 dẫn đầu bảng xếp hạng AI Agent benchmark LHTB của Tencent Hunyuan với điểm trung bình 0,505, hoàn thành 13 tác vụ

Phân tích chuyên sâu