Trajectory ra mắt nền tảng SkyRL mã nguồn mở, đạt cải thiện thông lượng 2,81x

Theo OneMillion_AI, Trajectory phối hợp với Sky Computing Lab của UC Berkeley và Anyscale gần đây đã công bố nền tảng SkyRL mã nguồn mở và kiến trúc Multi-LoRA Training để tinh chỉnh các mô hình ngôn ngữ lớn. Hệ thống giải quyết các điểm kém hiệu quả trong tối ưu hóa mô hình truyền thống bằng cách duy trì một nền tảng mô hình dùng chung trong bộ nhớ GPU, đồng thời xem nhiều thí nghiệm tinh chỉnh khác nhau như các mô-đun adapter nhẹ. Việc thử nghiệm cho thấy thông lượng thí nghiệm end-to-end tăng 2,81 lần, với thông lượng thời gian tuyệt đối trên một nút tăng 3,25 lần, giúp các mô hình lớn đạt khả năng tự tiến hóa theo cấp độ hàng giờ thông qua dữ liệu sản xuất thời gian thực. Mã huấn luyện hiện đã có trên kho lưu trữ SkyRL.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận