Mistral AI 发布 Voxtral 3 语音模型家族与语音 Agent SDK
Mistral AI 发布 Voxtral 3,包含语音转文本、文本转语音模型与基于 LiveKit 的语音 Agent SDK,把听、推理、工具调用与说话整合进单一实时流式管线,每轮对话在 1 秒内完成。
推荐理由:原文给出各模型定价与多项评测口径,读者可据此比较它与现有语音方案的成本和适用场景。
Mistral AI 发布 Voxtral 3,包含语音转文本、文本转语音模型与基于 LiveKit 的语音 Agent SDK,把听、推理、工具调用与说话整合进单一实时流式管线,每轮对话在 1 秒内完成。
推荐理由:原文给出各模型定价与多项评测口径,读者可据此比较它与现有语音方案的成本和适用场景。
Cloudflare 在 Workers AI 上以预览形式发布 AI 模型 Clairic,称其从文档中抽取数据比大语言模型更快、更便宜,开放权重(open weights)随后跟进。
Black Forest Labs 发布 56 亿参数的开源权重图像模型 FLUX 3 Image Klein,支持文生图、图像编辑和最多十张参考图生成,具备原生 4K 输出、像素级精确编辑和边界框定位元素。
推荐理由:原文给出了参数量、显存门槛和许可条款,读者可以据此判断它能否在本地工作流中替代闭源图像模型。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为面向聚焦编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。
推荐理由:官方给出 Sonnet 5.5 在 Amazon Bedrock 上的能力定位与调用示例,可据此判断它适合承接哪类持续运行的编码任务。
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark,为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径,解码最高提速 3.13x(端侧)和 2.66x(H100),端到端最高提升 2.62x 和 2.27x。该草稿模型仅增加 280M 参数(约 8.9%),并首日支持 llama.cpp、MLX-VLM 和 SGLang。
OpenAI 自研推理芯片 Jalapeño 首批结果显示其在 AI 推理速度与能效上达到行业领先水平。Jalapeño 为现代模型提供更高吞吐量与更低延迟,同时具备更快的推理速度和更高的能效表现。
Hugging Face 上线 Thinking Machines Lab 的 Inkling 系列开源多模态模型,Inkling 为 975B 总参数、41B 激活参数的 decoder-only MoE 模型,原生支持图像、文本、音频输入与 1M 上下文,在 45 trillion token 上训练。
推荐理由:原文给出架构细节与各部署配置的显存开销,读者可据此判断自己硬件能否跑起来。
Hugging Face 发布 Holo3.1 系列计算机使用智能体模型,基于 Qwen 家族,提供 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF、NVFP4 量化权重以支持本地推理。
推荐理由:给出了各尺寸在移动与桌面基准上的具体提升和量化后的吞吐数据,可据此评估本地部署的可行性。
JetBrains 发布开源 Mixture-of-Experts 模型 Mellum2,总参数 12B、每 token 激活 2.5B,面向低延迟文本与代码工作负载,采用 Apache 2.0 许可。
Overworld 发布实时交互视频扩散模型 Waypoint-1,可通过文本、鼠标和键盘控制,用 10,000 小时游戏画面训练,支持零延迟自由控制相机与按键输入。
推荐理由:原文对比了与现有世界模型在控制延迟上的差异,并给出推理库的具体吞吐与帧率数据,便于评估其实用性。
Hugging Face 发布博客介绍 OpenAI 新开源的 gpt-oss 模型家族,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,采用 Apache 2.0 许可,120B 可装入单张 H100,20B 可在 16GB 显存内运行。
推荐理由:系统梳理了 gpt-oss 在不同硬件上的推理优化选择,可直接作为本地部署的参考。
Hugging Face 官方博客宣布 Meta 新一代 Llama 4 模型上线 Hub:Maverick 约 400B 总参数、128 专家,Scout 约 109B 总参数、16 专家,均为 17B 激活参数的 MoE 架构,支持文本与图像输入,训练数据最多 40 万亿 token、覆盖 200 种语言。
推荐理由:原文拆解了 NoPE、分块注意力等架构选择,读者可理解超长上下文如何实现。
Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态,Hub 上提供 8 个开放权重模型(3 个 base 和 5 个微调版本),涵盖 8B、70B、405B 三种尺寸,均支持 128K 上下文窗口和 8 种语言,并新增工具调用能力与更宽松的许可(允许用模型输出改进其他 LLM)。
推荐理由:详细列出三种尺寸的显存需求与量化方案,读者可据此判断自己硬件能否跑起来。
Google 发布开源大模型系列 Gemma,包含 7B 和 2B 两种参数规模、各有 base 与 instruction-tuned 版本,共 4 个开放模型上线 Hugging Face Hub。
推荐理由:文章给出各尺寸模型的跑分对照和单卡微调命令,读者可据此判断在自有硬件上落地的可行性。
Hugging Face 发布 Würstchen 扩散模型,其文本条件组件在高度压缩的图像潜在空间中工作,实现 42x 空间压缩,通过 Stage A(VQGAN)、Stage B(Diffusion Autoencoder)与 Stage C(Prior)三阶段设计,训练与推理成本大幅降低。
Hugging Face 官方博客介绍 Falcon 系列模型(Falcon-40B 与 Falcon-7B,由阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布)接入其生态的完整用法。
推荐理由:文章系统梳理了 Falcon 在 Hugging Face 生态中的推理、量化与微调路径,可直接迁移为落地参考。