工具 · 硬件计算器
选择硬件和量化版本，立即估算内存占用和生成速度。Meta 官方演示配置是两台 512GB 的 M5 Ultra Mac Studio。
估算基于内存带宽上限和公开架构参数，实际速度取决于推理引擎、批大小和互联带宽，仅供参考。KV 缓存按 BF16、全层全注意力的上限计算。
部署步骤见 本地部署指南。