Tinygrad รายงานว่า GLM 5.2 ทำอัตรา 120 โทเค็นต่อวินาที บนการตั้งค่าคู่ Blackwell ด้วยงบ 150,000 ดอลลาร์

ตามรายงานของ BlockBeats เมื่อวันที่ 21 มิถุนายน Tinygrad ระบุว่า GLM 5.2 ทำความเร็วในการอนุมานได้ 120 โทเคนต่อวินาทีบนสถาปัตยกรรม Blackwell แบบเครือข่ายคู่ในการตั้งค่า tinybox ขนาด $150,000 สามารถเลือกได้ทั้งแบบ tinybox มาตรฐาน 2 เครื่อง หรือ tinybox Pro 1 เครื่อง Tinygrad วางตำแหน่งข้อเสนอนี้เป็นทางเลือกสำหรับการติดตั้งใช้งานแบบส่วนตัวแทนบริการอนุมานบนคลาวด์ โดยใช้สโลแกน "ซื้อครั้งเดียว ไม่ต้องจ่ายค่าคลาวด์อีก" ขณะนี้ GLM ยังไม่ได้ยืนยันอย่างเป็นทางการถึงข้อเรียกร้องด้านประสิทธิภาพ
news.article.disclaimer
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น