Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Meta 发布开源权重模型 Muse Spark Open，采用 MoE 架构，总参数约 816B、每 token 激活约 42B，上下文窗口最高 1M token，可输入文本、图像、音频和视频并输出文本。
推荐理由：原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节，并附 llama.cpp、vLLM、SGLang 部署和 TRL 微调配方。
Meta 发布开源权重模型 Muse Spark Open，采用 MoE 架构，总参数约 816B、每 token 激活约 42B，上下文窗口最高 1M token，可输入文本、图像、音频和视频并输出文本。
推荐理由：原文给出 816B 总参数、42B 激活的 MoE 架构与多模态输入细节，并附 llama.cpp、vLLM、SGLang 部署和 TRL 微调配方。