✍️ Gate 廣場「創作者認證激勵計劃」進行中！
我們歡迎優質創作者積極創作，申請認證
贏取豪華代幣獎池、Gate 精美周邊、流量曝光等超過 $10,000+ 豐厚獎勵！
立即報名 👉 https://www.gate.com/questionnaire/7159
📕 認證申請步驟：
1️⃣ App 首頁底部進入【廣場】 → 點擊右上角頭像進入個人主頁
2️⃣ 點擊頭像右下角【申請認證】進入認證頁面，等待審核
讓優質內容被更多人看到，一起共建創作者社區！
活動詳情：https://www.gate.com/announcements/article/47889
Hugging Face轉推turboquant-gpu工具，宣稱提供5.02倍KV快取壓縮
ME News 消息，4 月 6 日（UTC+8），Hugging Face 近日轉推了 anirudhbv_ce 發布的消息，宣布推出 turboquant-gpu 工具。該工具宣稱能為任意 GPU（包括 RTX、H100、A100、B200）提供高達 5.02 倍的 KV 緩存壓縮。據文中介紹，其特點包括：與 Hugging Face Transformers 庫兼容；提供極簡 API，宣稱只需 3 行代碼即可實現壓縮與生成；採用 3-bit Lloyd-Max 融合 KV 壓縮技術，並宣稱達到 0.98 的餘弦相似度。文中觀點認為，其性能表現優於 MXFP4（3.76 倍壓縮）和另一個未命名的方案。（來源：InFoQ）