Meta 发布开源多模态 MoE 模型 Muse Spark Open
Meta 发布开源权重多模态模型 Muse Spark Open,约 816B 总参数、每 token 约 42B 激活参数,上下文窗口达 1M tokens,支持文本、图像、音频、视频输入与文本输出,面向 agentic coding 场景。
推荐理由:原文给出完整架构参数与多框架部署配方,读者可据此评估自托管该模型的资源门槛与可行路径。
Meta 发布开源权重多模态模型 Muse Spark Open,约 816B 总参数、每 token 约 42B 激活参数,上下文窗口达 1M tokens,支持文本、图像、音频、视频输入与文本输出,面向 agentic coding 场景。
推荐理由:原文给出完整架构参数与多框架部署配方,读者可据此评估自托管该模型的资源门槛与可行路径。
Meta Superintelligence Labs(MSL)发布第二代模型家族 Muse Wonder(代号 Watermelon)与 Muse Wonder Full,定位为面向个人与专业智能体工作的前沿模型,1M 上下文窗口,定价为 $4/M 输入、$20/M 输出。
推荐理由:原文汇总了第三方评测数据与从业者正反两方反馈,读者可据此判断该模型的真实定位与争议点。
Meta 的 Superintelligence Lab 发布了 Muse Wonder 和 Muse Wonder Full 一对新模型,这是该公司首次尝试前沿模型。
推荐理由:原文交代了定价与独占渠道,读者可据此判断它在 Meta 产品线中的定位。
Meta 发布 Muse Glimmer-30B,一款从 Muse 蒸馏至 30B 参数、采用 Apache 2.0 许可的多模态模型,面向本地智能体用例,适用于编码、文档分析、个人助手等注重隐私的场景。
推荐理由:原文给出架构细节与部署入口,读者可据此判断本地智能体场景下的落地成本与可行性。
Meta 发布 Llama Guard 4,一个 12B 稠密多模态安全模型,以及两款新的 Llama Prompt Guard 2 分类器(86M 和 22M 参数)。
推荐理由:原文给出了从 Llama 4 Scout 剪枝为稠密模型的架构细节和与上一代的对比数据,便于判断其部署成本与效果取舍。
Hugging Face 官方博客宣布 Meta 新一代 Llama 4 模型上线 Hub:Maverick 约 400B 总参数、128 专家,Scout 约 109B 总参数、16 专家,均为 17B 激活参数的 MoE 架构,支持文本与图像输入,训练数据最多 40 万亿 token、覆盖 200 种语言。
推荐理由:原文拆解了 NoPE、分块注意力等架构选择,读者可理解超长上下文如何实现。
Meta 与 Hugging Face 合作发布 Llama 3.2 系列,共 10 个开放权重模型上线 Hub,包括 5 个多模态模型和 5 个纯文本模型。
推荐理由:原文给出各尺寸模型的显存需求与本地运行方式,读者可据此判断能否在自己的设备上跑起来。
Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态,Hub 上提供 8 个开放权重模型(3 个 base 和 5 个微调版本),涵盖 8B、70B、405B 三种尺寸,均支持 128K 上下文窗口和 8 种语言,并新增工具调用能力与更宽松的许可(允许用模型输出改进其他 LLM)。
推荐理由:详细列出三种尺寸的显存需求与量化方案,读者可据此判断自己硬件能否跑起来。
Meta 发布开源 Llama 3 系列,包含 8B 和 70B 两种参数规模的 base 与 instruct 共 4 个模型,以及基于 Llama 3 8B 微调的 Llama Guard 2,全部已上线 Hugging Face Hub。
推荐理由:原文梳理了 Llama 3 的技术变化与生态集成入口,读者可据此判断如何在自己的工作流中使用它。
Meta 发布 Llama 2 系列开放大语言模型,Hugging Face 完成生态集成,Hub 上提供 12 个开放模型(3 个基础模型与 3 个微调模型及对应 transformers 版本),采用宽松社区许可并支持商用。
推荐理由:文章给出从推理部署到单卡微调的完整路径,可直接迁移用于自己的 Llama 2 实践。