§01 · 模型概览
Muse Spark Open 模型概览
Muse Spark Open 是 Meta 于 2026 年 10 月 15 日发布的开放权重大模型,也是 Muse Spark 系列首个可下载权重的旗舰版本。本页汇总官方公布的规格,部署方法见本地部署,商用条件见许可证解读。
核心规格
| 项目 | 数值 |
|---|---|
| 总参数 | 816B(Hugging Face 显示约 822B,含视觉编码器等组件) |
| 每 token 激活参数 | 42B |
| 架构 | 混合专家(MoE)Transformer,256 个专家,每 token 激活 8 个 |
| 层数 / 隐藏维度 | 62 层 / 8192 |
| 注意力 | 分组查询注意力(GQA),128 个 Q 头、16 个 KV 头,头维度 64,带门控与 QK-norm |
| 词表大小 | 202,048 |
| 上下文长度 | 1M tokens |
| 输入模态 | 文本、图像、视频、音频(内置 1.8B 参数的 Perception Encoder) |
| 输出模态 | 文本 |
| 官方权重格式 | BF16、NVFP4 |
为什么 816B 的模型能在桌面运行
MoE 架构每生成一个 token 只读取约 42B 参数,生成速度主要取决于内存带宽,而不是总参数量。但全部 816B 参数仍需常驻内存,因此门槛在于内存容量:
- NVFP4 权重:官方建议至少 700GB 显存
- BF16 权重:官方建议约 2TB 显存
- Meta 与 Apple 演示的配置:两台 512GB 统一内存的 M5 Ultra Mac Studio,通过 MLX 分布式推理运行
具体组合可用硬件计算器估算。
推荐推理设置
- 采样:
temperature=1.0,top_p=1.0,不启用top_k - 推理强度:
reasoning_effort可选low、medium、high、xhigh,默认xhigh - 支持的推理引擎:SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp、Unsloth
下载渠道
- Hugging Face:
meta-models/Muse-Spark-Open-816B-A42B(需登录并同意许可条款) - 云平台:Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry Models
FAQ
Q.Muse Spark Open 是开源模型吗?
A.是开放权重模型。权重可在 Hugging Face 下载,但采用 Meta 自有的 Muse Model License,并非 Apache 或 MIT 等开源许可证,商用存在附加条件。
Q.Muse Spark Open 支持图片和音频输入吗?
A.支持。官方模型卡列出的输入模态为文本、图像、视频和音频,输出为文本。