利好

Cursor开源MoK框架,MoE模型训练效率提升41%

2026-08-05 12:35

Cursor发布MoK开源项目,通过整合GPU传输与计算,使MoE架构训练效率提升41%,目前仅支持英伟达Blackwell系列。

据 Woofun AI 消息,Cursor 已将 Mixture-of-Kittens(MoK)框架开源,旨在加速基于 MoE 架构的大规模模型训练。该技术将 GPU 数据传输与计算操作整合至同一内核,解决了 MoE 架构中因节点分布导致的频繁数据传输瓶颈。在 512 GB300 规格 GPU 上测试显示,整体处理效率提升 41%,MoE 层速度较现有公共基准快 2.37 倍。目前 MoK 已被用于在成千上万的 Cursor GPU 上开展训练项目,采用 Apache 2.0 许可证,暂仅支持英伟达 Blackwell 系列 GPU,主要面向拥有 GB200 及 GB300 NVL72 集群的机构。

WOOFUN AI

影响力评估 · 一键速读

MoK 通过软硬件协同优化,显著降低了 MoE 模型训练中的通信开销,为大规模稀疏模型落地提供关键基础设施。鉴于其目前仅支持 Blackwell 架构,该框架或加速头部机构对最新硬件的采购与部署,进一步巩固英伟达在高端 AI 算力市场的地位。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论

回复 @用户
0/800

暂无评论

消息提醒

登录后查看消息
查看全部消息管理订阅