Meta 开源 8160 亿参数模型,双 Mac 即可运行
核心要点
Meta发布Muse Spark Open,8160亿参数支持多模态,双M5 Ultra Mac可运行。虽在编码测试落后中国模型,但在工具调用领先,定位中高端自托管市场。
据 Woofun AI 消息,美国当地时间 10 月 15 日,Meta 正式推出名为 的混合专家模型,其总参数量高达 8160 亿,活跃参数为 420 亿,并同步开放权重下载。Meta CEO 将其定义为美国迄今为止能力最强的开源权重模型,该模型原生支持多模态输入,上下文窗口扩展至 100 万 token,旨在重新确立美国在开源大模型领域的技术标杆地位。
在硬件适配层面,Meta 与深度协作,使得该庞大模型能够在消费级设备上完整运行。具体方案采用两台 M5 Ultra 版 Mac Studio,通过 框架协同工作,构建出 1TB 的统一内存环境。得益于 M5 Ultra 高达 1.2TB 每秒的内存带宽,系统能够支撑每个 token 所需的小切片读取速度,满足推理需求。
尽管模型采用混合专家架构,每次推理仅激活 420 亿参数,远小于 8160 亿的总规模,但完整权重仍需全部加载至内存。Woofun AI 整理数据显示,NVFP4 量化版本至少需要 700GB 加速器内存,而 BF16 版本则需 2TB 内存。因此,两台配备 512GB 内存的 Mac Studio 恰好卡在能装下量化版权重的门槛上,为本地部署提供了极具吸引力的低成本路径。
Open 的核心竞争力之一在于其原生多模态理解能力。模型接受文本、图片、视频和音频四种输入,并输出文本结果。值得注意的是,它并非生成式多模态模型,不具备画图、生成视频或合成语音的功能,其价值聚焦于对多种模态信息的深度理解与分析。开发者可利用其查看截图、听取录音、分析视频帧,并结合文字指令进行复杂判断,这种能力在代理式工作流中比单纯的生成能力更具实用价值。
在生态支持方面,除了苹果芯片,该模型已适配 、、、、 及 等主流推理引擎,并兼容 、、的硬件平台。Meta 还引入了自定义的 内核,在 SGLang 上可实现 1.03 到 3.95 倍的内核级加速,在 AMD MI350 上端到端提速 3%,进一步拓宽了硬件兼容性。
在基准测试表现上,Meta 强调其在工具使用领域的领先地位。在 测试中,Muse Spark Open 获得 61.8 分;在 测试中,得分高达 89.2 分,均优于 、 和 等竞争对手。在无工具条件下的 推理测试中,它以 26.1 分领先;在带工具的视觉评测中, 得分为 50 分, 得分为 73.6 分,同样名列前茅。美国 AI 科学家表示,他等待美国开源模型重新具备竞争力已久,此次发布让他看到了希望。Box 首席执行官也认为,这对美国开源社区是重大进步,企业未来可混合搭配前沿模型与低成本定制模型,分别处理高阶任务与重复性工作流。
然而,该模型在编码与综合知识领域存在明显短板。在 终端编码测试中,Muse Spark Open 得分为 76.4 分,低于 GLM 5.3 的 83.9 分和 Kimi K3 的 85.0 分。在 软件工程任务中,其 60 分的成绩也落后于 GLM 和 Kimi 的 67 分与 68 分。在 综合知识工作评估中,Muse Spark Open 得 1401 分,与 GLM 5.3 的 1653 分、Qwen3.8 的 1613 分及 Kimi K3 的 1537 分均有差距。

评论
暂无评论