DeepSeek 開源 TileKernels:大型模型訓練與推理用 GPU Kernel 庫

Gate News 訊息,4 月 23 日 — DeepSeek 已在 MIT 許可證下開源 TileKernels,這是一個以 TileLang 編寫的 GPU kernel 庫,用於大型語言模型的訓練與推理。TileLang 是 tile-ai 團隊所開發的領域特定語言,用於在 Python 中表達高效能的 GPU kernel。DeepSeek 表示,該程式庫中的多數 kernel 已接近在運算密度與記憶體頻寬方面的硬體效能上限,其中部分已部署於內部的訓練與推理作業。

該程式庫包含六類 kernel:MoE (專家混合) 的 gating 與路由,包括 Top-k 專家選擇、token-to-expert 對映,以及帶權重正規化的融合 expand/shrink;支援量化的格式包含 FP8、FP4 與 E5M6,並提供逐 token、逐區塊與逐通道的量化,包含融合的 SwiGLU+量化運算;batch transpose;Engram gating,並融合 RMSNorm 前向/反向傳播與權重梯度歸約;Manifold HyperConnection,採用 Sinkhorn 正規化與混合的 split/apply;以及高階 autograd 介面,將低階 kernel 封裝為可訓練層。

Engram 與 Manifold HyperConnection 是 DeepSeek 模型架構的專有元件,實作細節首次向公眾公開。該程式庫需要 NVIDIA SM90 或 SM100 架構的 GPU (H100/H200 或 Blackwell 系列)、CUDA Toolkit 13.1 或更高版本,以及 PyTorch 2.10 或更高版本。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

Plasma 預告:將於 2026 年 6 月推出與穩定幣相關的產品

Gate News 訊息,4 月 23 日 — Plasma 宣布計劃於 2026 年 6 月推出一款與穩定幣相關的新產品,並表示:「你的穩定幣終於有了家,2026 年 6 月。」 根據宣傳資料,該產品將具備穩定幣支付卡、消費支出功能,以及現金返還獎勵。

GateNews1小時前

Bonanza Factory 完成越南 MB Bank 數字資產交易所的 VND 整合 PoC

Gate 新聞訊息,4 月 23 日——Bonanza Factory, 一家韓國合規解決方案提供商,已與越南的越南軍事商業股份銀行 (MB Bank) 完成一項 (PoC)(概念驗證),用於在該銀行與數字資產交易所之間進行以 VND 為基礎的存款與提款整合,並且目前

GateNews1小時前

WBTC 將於 4 月 26 日前完成跨鏈 DVN 配置升級

Gate 新聞消息,4 月 23 日 — WBTC 宣布,它將因應近期 rsETH 事件,升級其跨鏈 DVN (Decentralized Verification Network) 配置。該項目表示,此次調整屬於預防性措施,旨在強化跨鏈整合的安全標準

GateNews1小時前

Bunq Surpasses €100 Million in Crypto Trading, Launches Stock Baskets Feature

Gate News message, April 23 — Bunq, a European neobank, has surpassed €100 million in crypto trading volume within the first year of launching its digital asset offering in April 2025, across approximately 500,000 trades. The platform recorded a 41% increase in total signups in 2026, reflecting

GateNews1小時前

GoPlus AgentGuard 推出 Checkup 模式以強化 AI 代理 Web3 安全

Gate News 消息,4 月 23 日 — GoPlus AI 安全組件 AgentGuard 已正式發布其 Checkup 功能,旨在解決 AI 代理在自主決策與資產控制中的安全盲點,將 AI 代理的安全性從「碎片化攔截」提升為「系統化

GateNews2小時前

Avici 在 Solana 上推出用於收益生成的 Grow 與 Smart Credit 產品

Gate 新聞訊息,4 月 23 日——自我託管加密貨幣新銀行 Avici 與 Jupiter Lend 和 Fluid 攜手推出兩款新產品,Grow 和 Smart Credit。 Avici Grow 允許用戶存入資產並在沒有鎖定期的情況下賺取收益,讓用戶可在任何時候進行提現。Smart Credit

GateNews2小時前
留言
0/400
暫無留言