Tencent Phát hành và Mở Mã Nguồn Bản Xem Trước Hunyuan Hy3 với 295B Tham Số

Tin Cổng ngõ, ngày 23 tháng 4 — Tencent đã giới thiệu và mở mã nguồn bản xem trước Hunyuan Hy3, một mô hình ngôn ngữ lai dạng hỗn hợp chuyên gia (mixture-of-experts) kết hợp tư duy nhanh và chậm. Mô hình bao gồm tổng cộng 295 tỷ tham số với 21 tỷ tham số hoạt động, hỗ trợ độ dài ngữ cảnh tối đa 256K token. Bản xem trước Hy3 là mô hình đầu tiên được huấn luyện sau quá trình tái cấu trúc của Hunyuan và là mô hình thông minh nhất của Tencent cho đến nay. Công ty cho biết đã có những cải thiện đáng kể về suy luận phức tạp, tuân theo hướng dẫn, học tập trong ngữ cảnh, tạo mã, năng lực mang tính tác nhân (agentic), và hiệu năng suy luận. Nhà khoa học AI trưởng Yao Shunyu cho biết bản xem trước Hy3 đánh dấu bước đầu tiên trong quá trình tái thiết của Hunyuan và bày tỏ hy vọng rằng phản hồi từ cộng đồng mã nguồn mở sẽ nâng cao tính hữu dụng thực tiễn của phiên bản chính thức.

Tencent đồng thời đang mở rộng huấn luyện trước (pretraining) và học tăng cường (reinforcement learning) để nâng trần trí tuệ của mô hình, đồng thời hợp tác với nhiều sản phẩm của Tencent thông qua đồng thiết kế sâu (deep co-design) nhằm cải thiện hiệu năng trong thế giới thực. Công ty cũng bắt đầu khám phá các năng lực của mô hình chuyên biệt.