8160 亿参数本机化：Meta 与 Apple 的硬体博弈

据 Woofun AI 消息，Meta 与 Apple 达成战略协同，成功将 Meta 最新发布的开放权重模型 部署至 Mac Studio 进行本机推论。

这一技术突破并非依赖单一消费级设备的算力堆叠，而是基于 Apple 的 框架，通过多台高阶 Mac Studio 的串接协同，实现了 8160 亿参数巨型模型在桌面环境下的稳定运行。虽然模型权重已全面开放下载，但极其苛刻的硬件配置要求与复杂的部署流程，注定该方案目前仅适用于专业开发者与研究团队，而非普通终端用户。这标志著大型语言模型从云端集中式服务向本地化、私有化部署迈出了关键一步，但也暴露出当前硬件基础设施与模型规模之间的巨大张力。

在技术规格与发布细节方面，Meta 于 10 月 15 日正式宣布推出 Muse Spark Open，并宣称这是其迄今为止最强的美国开放权重模型。根据 Meta AI Research 的官方公告，该模型总参数规模高达 8160 亿，但在每次实际推论过程中，仅启用约 420 亿参数，这种稀疏激活架构旨在平衡性能与效率。模型具备强大的多模态处理能力，支援文字、影像、音讯与影片等多种输入格式，并拥有 100 万 token 的上下文长度，能够处理极其长篇且复杂的资讯流。为了促进生态发展，模型权重已在 Hugging Face 等主流平台提供免费下载，同时也可透过多家云端推论服务进行访问，为不同需求的用户提供了灵活的选择空间。

硬件部署架构与记忆体需求是本次合作的核心挑战。Meta 指出，Muse Spark Open 可透过 Apple MLX 框架在两台搭载 M5 Ultra 芯片的 Mac Studio 上实现本机运行。Apple 每台 Mac Studio 最高可配置 512GB 统一内存，两台设备合计可提供约 1TB 的内存资源。Apple 机器学习研究团队公开示范了如何利用 MLX 和 Thunderbolt 5 高速连线技术，将大型模型分散到多台 Mac Studio 上进行协同计算。

这种架构允许模型在用户自有设备上执行，避免了对云端服务的依赖，但用户必须自行准备、连接并维护整套硬体系统，技术门槛极高。Woofun AI 整理数据显示，Muse Spark Open 以 4 位元格式量化后，模型本身约需 493GB 内存，此外还需保留推论时的额外运算空间，这意味著单台 512GB 内存的 Mac Studio 无法独立承载完整模型，必须依靠多机串接方案。

效能测试数据与授权条款进一步揭示了该方案的实用性边界。Apple 研究团队以两台或四台 M5 Ultra Mac Studio 串接进行测试，在特定 8,192 token 的测试条件下，四台设备组合的生成速度约为每秒 36.7 个 token。需要强调的是，这是实验配置下的结果，并不代表所有任务类型或硬体组合都能达到相同速度，实际应用中的效能可能因工作负载而异。在授权方面，Muse Spark Open 采用 ，Meta 表示许多用途可免费使用，但商业条款存在明确限制，开发者在将其应用于商业产品前，必须仔细确认授权适用范围，以避免法律风险。

这种开放与限制并存的策略，旨在平衡创新推广与商业利益保护。