Baseten เปิดตัววิธีการบีบอัด Still KV Cache ที่ทำอัตราการบีบอัดได้ 200 เท่า

2026-06-12 10:53:27

ตามการเปิดเผยของ Beating ทีมวิจัย Baseten ได้นำเสนอ Still ซึ่งเป็นวิธีการบีบอัด KV cache ที่ทำให้บีบอัดได้สูงสุดถึง 200 เท่าในการส่งต่อครั้งเดียว โดยไม่ต้องมีการปรับจูนแบบออนไลน์หรือการอัปเดตกราเดียนต์ Still ผสาน Perceiver compressor ที่มีน้ำหนักเบา ซึ่งมีขนาดราว 1% ของพารามิเตอร์โมเดลพื้นฐาน เข้าไปในแต่ละชั้นของ Transformer โดยใช้ cross-attention กับ KV cache ทั้งหมดเพื่อสร้างแคชที่ถูกบีบอัดโดยตรง ทำการทดสอบกับโมเดล Qwen และ Gemma ในช่วง context window 8k ถึง 64k อัตราการบีบอัด 8 เท่า ถึง 200 เท่า Still ยังคงรักษาความแม่นยำสูง และทำได้ดีกว่าวิธีที่เทียบเคียงได้อย่าง SnapKV, H2O และ KV-Distill ในเกณฑ์ RULER

news.view.source

news.article.disclaimer

news.related.news

1 ชั่วโมง ที่แล้ว

Moonshot AI เปิดตัวโมเดลโค้ด Kimi K2.7 โดยประสิทธิภาพดีขึ้น 21.8% และเวอร์ชันความเร็วสูงจะเปิดตัวในวันที่ 15 มิถุนายน

2 ชั่วโมง ที่แล้ว

Tencent Cloud ลดราคามินิแมกซ์-เอ็ม3 และไฮ-เอ็มที2-โปร ได้สูงสุด 66.67% เริ่มตั้งแต่วันที่ 12 มิถุนายน

3 ชั่วโมง ที่แล้ว

Google Antigravity เปิดตัวแดชบอร์ดโควต้า รีเซ็ตสิทธิ์การใช้งานรายสัปดาห์ของ Gemini

18 ชั่วโมง ที่แล้ว

Google เลือก Samsung เพื่อผลิตชิป AI Icefish เจเนอเรชันถัดไปด้วยกระบวนการ 2 นาโนเมตร

06-11 06:13