DeepSeek เปิดซอร์ส TileKernels ไขลบรารีเคอร์เนล GPU สำหรับการฝึกและการอนุมานของโมเดลขนาดใหญ่

ข้อความข่าวจาก Gate วันที่ 23 เมษายน — DeepSeek ได้เปิดซอร์ส TileKernels ภายใต้สัญญาอนุญาต MIT ซึ่งเป็นไลบรารีเคอร์เนลสำหรับ GPU ที่เขียนด้วย TileLang สำหรับการฝึกและการอนุมานของโมเดลภาษาขนาดใหญ่ TileLang เป็นภาษาเฉพาะทางที่ทีม tile-ai พัฒนาขึ้น เพื่อใช้ในการแสดงเคอร์เนล GPU ประสิทธิภาพสูงใน Python DeepSeek ระบุว่าเคอร์เนลส่วนใหญ่ในไลบรารีได้เข้าใกล้ขีดจำกัดด้านประสิทธิภาพของฮาร์ดแวร์แล้ว ทั้งในความหนาแน่นในการคำนวณและแบนด์วิดท์หน่วยความจำ โดยบางส่วนได้ถูกนำไปใช้งานแล้วในกระบวนการฝึกและการอนุมานภายใน

ไลบรารีประกอบด้วยเคอร์เนลหกหมวดหมู่: MoE (การผสมผู้เชี่ยวชาญ) สำหรับการแบ่งเกตและการกำหนดเส้นทาง รวมถึงการเลือก Top-k ของผู้เชี่ยวชาญ การแมปโทเคนต่อผู้เชี่ยวชาญ และการขยาย/ลดขนาดแบบรวม (fused) พร้อมการทำ normalization ของค่าน้ำหนัก; การทำควอนไทซ์ที่รองรับรูปแบบ FP8, FP4 และ E5M6 พร้อมการควอนไทซ์แบบต่อโทเคน ต่อบล็อก และต่อช่องทาง (channel) รวมถึงการทำงานแบบรวมสำหรับ SwiGLU+quantization; การ transpose แบบเป็นชุด (batch transpose); Engram gating พร้อมการส่งผ่านต่อไป/ย้อนกลับของ RMSNorm แบบรวมและการลดทอนเกรเดียนต์น้ำหนัก; Manifold HyperConnection พร้อมการทำ normalization แบบ Sinkhorn และการ split/apply แบบผสม; และอินเทอร์เฟซ autograd ระดับสูงที่ห่อเคอร์เนลระดับต่ำให้อยู่ในเลเยอร์ที่ฝึกได้

Engram และ Manifold HyperConnection เป็นองค์ประกอบที่เป็นกรรมสิทธิ์ของสถาปัตยกรรมโมเดลของ DeepSeek โดยรายละเอียดการใช้งานถูกเปิดเผยต่อสาธารณะเป็นครั้งแรก ไลบรารีต้องใช้ GPU สถาปัตยกรรม NVIDIA SM90 หรือ SM100 (H100/H200 หรือกลุ่ม Blackwell), CUDA Toolkit 13.1 หรือสูงกว่า และ PyTorch 2.10 หรือสูงกว่า

news.article.disclaimer

btc.bar.articles

Plasma ล้อเลียนการเปิดตัวผลิตภัณฑ์ที่เกี่ยวข้องกับสเตเบิลคอยน์ในเดือนมิถุนายน 2026

อัปเดตจาก Gate News วันที่ 23 เมษายน — Plasma ประกาศแผนที่จะเปิดตัวผลิตภัณฑ์ใหม่ที่เกี่ยวข้องกับสเตเบิลคอยน์ในเดือนมิถุนายน 2026 โดยระบุว่า "ในที่สุดสเตเบิลคอยน์ของคุณก็มีบ้านอยู่แล้ว เดือนมิถุนายน 2026" ตามสื่อส่งเสริมการขาย ผลิตภัณฑ์ดังกล่าวจะมีบัตรชำระเงินด้วยสเตเบิลคอยน์ ฟังก์ชันการใช้จ่ายของผู้บริโภค และ

GateNews1 ชั่วโมง ที่แล้ว

Bonanza Factory เสร็จสิ้น PoC สำหรับการบูรณาการ VND ของการแลกเปลี่ยนสินทรัพย์ดิจิทัลของ Vietnam MB Bank

ข้อความข่าว Gate News วันที่ 23 เมษายน — Bonanza Factory ผู้ให้บริการโซลูชันด้านการปฏิบัติตามข้อกำหนดจากเกาหลีใต้ ได้เสร็จสิ้นการพิสูจน์แนวคิด (PoC) ร่วมกับ Military Commercial Joint Stock Bank ของเวียดนาม (MB Bank) เพื่อการบูรณาการการฝากและถอนที่ใช้สกุลเงิน VND ระหว่างธนาคารและการแลกเปลี่ยนสินทรัพย์ดิจิทัล และกำลัง

GateNews1 ชั่วโมง ที่แล้ว

WBTC to Complete Cross-Chain DVN Configuration Upgrade by April 26

Gate News message, April 23 — WBTC announced it is upgrading its cross-chain DVN (Decentralized Verification Network) configuration in response to the recent rsETH incident. The project stated the adjustment is a precautionary measure designed to strengthen security standards for cross-chain

GateNews1 ชั่วโมง ที่แล้ว

Bunq ทำยอดเทรดคริปโตทะลุ 100 ล้านยูโร พร้อมเปิดตัวฟีเจอร์ Stock Baskets

ข้อความข่าว Gate ประจำวันที่ 23 เมษายน — Bunq ซึ่งเป็นเนโอบนก์ในยุโรป ได้ก้าวเกินมูลค่า 100 ล้านยูโรในปริมาณการเทรดคริปโตกันภายในปีแรกของการเปิดตัวข้อเสนอสินทรัพย์ดิจิทัลในเดือนเมษายน 2025 ครอบคลุมการทำธุรกรรมประมาณ 500,000 รายการ แพลตฟอร์มดังกล่าวรายงานว่ามีการเพิ่มขึ้น 41% ในจำนวนผู้สมัครทั้งหมดในปี 2026 ซึ่งสะท้อนถึง

GateNews1 ชั่วโมง ที่แล้ว

GoPlus AgentGuard เปิดตัวโหมด Checkup เพื่อเสริมความปลอดภัย Web3 ของเอเจนต์ AI

ข่าวประจำเกต วันที่ 23 เมษายน — คอมโพเนนต์ความปลอดภัยของ GoPlus อย่าง AgentGuard ได้เปิดตัวฟีเจอร์ Checkup อย่างเป็นทางการแล้ว ซึ่งออกแบบมาเพื่อจัดการช่องว่างด้านความปลอดภัยในกระบวนการตัดสินใจเชิงอิสระและการควบคุมสินทรัพย์ของเอเจนต์ AI ยกระดับความปลอดภัยของเอเจนต์ AI จาก "การสกัดกั้นแบบกระจัดกระจาย" สู่ "การตรวจสอบอย่างเป็นระบบ"

GateNews2 ชั่วโมง ที่แล้ว

Avici เปิดตัวผลิตภัณฑ์ Grow และ Smart Credit เพื่อสร้างผลตอบแทน (yield) บน Solana

ข้อความข่าว Gate ประจำวันที่ 23 เมษายน — นีโอแบงก์คริปโตกำกับดูแลด้วยตัวเอง Avici ได้เปิดตัวผลิตภัณฑ์ใหม่ 2 รายการ ได้แก่ Grow และ Smart Credit โดยร่วมมือกับ Jupiter Lend และ Fluid Avici Grow ช่วยให้ผู้ใช้ฝากสินทรัพย์และรับผลตอบแทน (yield) โดยไม่มีช่วงล็อก ทำให้สามารถถอนเงินได้ทุกเมื่อ Smart Credit

GateNews2 ชั่วโมง ที่แล้ว
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น