DeepSeek 开源 TileKernels:大型模型训练与推理的 GPU 内核库

Gate News 消息,4月23日——DeepSeek 已在 MIT 许可下开源了 TileKernels,这是一款使用 TileLang 编写的 GPU 内核库,面向大型语言模型的训练与推理。TileLang 是 tile-ai 团队开发的领域专用语言,用于在 Python 中表达高性能 GPU 内核。DeepSeek 表示,该库中的大多数内核已接近在计算密度与内存带宽方面的硬件性能上限,其中部分内容已部署到内部的训练与推理操作中。

该库包含六类内核:MoE (专家混合) 的门控与路由,包括 Top-k 专家选择、token 到专家的映射,以及带权重归一化的融合 expand/shrink;量化支持 FP8、FP4 和 E5M6 格式,提供按 token、按块和按通道的量化,并包含融合的 SwiGLU+量化操作;批量转置;Engram 门控,融合 RMSNorm 的前向/反向传播与权重梯度归约;Manifold HyperConnection,使用 Sinkhorn 归一化并进行混合的 split/apply;以及将底层内核封装为可训练层的高级 autograd 接口。

Engram 和 Manifold HyperConnection 是 DeepSeek 模型架构的专有组件,其实现细节首次向公众披露。该库需要 NVIDIA SM90 或 SM100 架构的 GPU (H100/H200 或 Blackwell 系列),CUDA Toolkit 13.1 或更高版本,以及 PyTorch 2.10 或更高版本。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

Lotus Integrates WisdomTree Money Market Fund to Establish Yield Floor in DeFi Lending

Gate News message, April 23 — Pre-launch DeFi lending protocol Lotus has integrated WisdomTree's Treasury Money Market Digital Fund (WTGXX) as part of the reserve framework backing LotusUSD, its core vault token. This marks one of the first instances of a money market fund being referenced within a

GateNews21 分钟前

Delphi AI 预测市场在 Gensyn 主网上线

Gate News 消息,4 月 23 日——AI 预测市场协议 Delphi 已在 AI 计算协议 Gensyn 上正式上线,使人类与 AI 代理能够在同一平台上进行预测交易。通过经过验证的 AI 预言机在链上完成结算。 Gensyn 之前在 2025 年 12 月已在其测试网上上线 Delphi

GateNews42 分钟前

Andre Cronje 的 DeFi 平台 Flying Tulip 推出提款熔断器

Gate 新闻消息,4月23日——Andre Cronje 的去中心化金融平台 Flying Tulip 已推出提款熔断器机制,旨在在资本异常外流期间延迟或排队提款,以限制潜在损失并争取调查时间。 该机制

GateNews57 分钟前

Pyth Network to Retire Pythnet Application Chain Later in 2026, Ends OIS Rewards

Gate News message, April 23 — Pyth Network announced that Pythnet application chain will be retired later in 2026 following the passage of proposal OP-PIP-100, while proposal OP-PIP-103 has set the Oracle Integrity Staking (OIS) reward distribution rate to zero, marking the end of the OIS rewards me

GateNews1小时前

Plasma 预告:拟于 2026 年 6 月推出与稳定币相关的产品

Gate News 消息,4月23日——Plasma 宣布计划在 2026 年 6 月推出一款与稳定币相关的新产品,并表示“你的稳定币终于有了归宿,2026年6月”。 据宣传资料称,该产品将配备一张稳定币支付卡、面向消费者的消费功能,以及返现奖励。

GateNews2小时前

Bonanza Factory 为越南 MB Bank 数字资产交易所完成 VND 集成的 PoC

Gate 新闻消息,4月23日——韩国合规解决方案提供商 Bonanza Factory 已与越南军事商业股份银行 (MB Bank) 完成了一项 (PoC)(概念验证),用于在该银行与数字资产交易所之间实现基于 VND 的存款和取款集成,并且

GateNews2小时前
评论
0/400
暂无评论