跳到正文
  1. Hugging Face Blog62

    Tether AI Research 开源 0.8B 端侧智能体模型 BotPsy

    Tether AI Research 发布 BotPsy,一个基于 Qwen3.5-0.8B 构建、面向函数调用与智能体工作流的 0.8B 参数端侧模型,将以 Apache 2.0 许可开源权重,提供 bf16、Q8、Q4 三种精度的 safetensors 与 GGUF 文件。

    推荐理由:原文给出四阶段训练配方与逐项基准对比,可据此理解小模型如何在工具调用上追平更大模型。

  1. Hugging Face Blog74

    Liquid AI 发布 LFM3 系列:单一骨干衍生六款 2B 级多模态模型

    Liquid AI 发布新一代 LFM3 系列,以 LFM3-1.7B-Base 为共享骨干衍生出文本、视觉、音频、omni 和决策共六款 2B 级模型,全部开源并可在 Hugging Face 下载。

    推荐理由:原文给出架构改动、基准对比和微调入口,读者可据此评估 2B 级模型能否替代自己的通用大模型。

  1. NVIDIA Blog61

    NVIDIA 扩展 Nemotron、Kumo、Cosmos 等开放模型组合

    NVIDIA 扩展其在语言、机器人、生物和量子计算领域的开放模型组合,包括 Nemotron 3.5 Super VL、Nemotron 3.5 Bolt、Nemotron Retriever、Kumo、Cosmos 3.5、Alpamayo 2 Edge、BioNeMo 和 Ising,供开发者用本地数据定制并部署在自有基础设施上。

    推荐理由:原文逐项列出各模型的开放入口和合作方,读者可据此判断哪些能力已可直接取用。

  1. NVIDIA Blog72

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源模型

    NVIDIA 发布开源 1200 亿参数模型 Nemotron 3.5 Super VL,以及面向边缘的 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 两款模型,覆盖从企业服务器到本地设备的智能体部署。

    推荐理由:原文给出了三档模型的参数、显存与部署入口,读者可据此判断从数据中心到本地设备的选型路径。

  1. Hugging Face Blog67

    Liquid AI 开源 LFM2.5-24B-A2B 端侧推理模型

    Liquid AI 开源 LFM2.5-24B-A2B,一个 24B 参数、仅 2B 激活参数的推理模型,面向端侧快速私密的智能体场景,支持工具调用与多步任务。

    推荐理由:给出了架构、训练流程与多组对比数据,读者可据此判断它在端侧智能体场景的取舍边界。

  1. Hugging Face Blog62

    Liquid AI 开源 d1-3B 与 d1-omni-600M 决策模型

    Liquid AI 发布 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-omni-600M(实验版),在 Decision Index 0.2.1 上 d1-3B 得分 48.57,超过所有 4B、9B 模型以及 Decider 35B-A3B(47.11)。

    推荐理由:给出了不同设备上的实测延迟和基准分数,读者可据此判断它是否满足自己的端侧部署预算。

  1. Google DeepMind72

    Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型,将文本、代码、图像、视频和音频统一映射到共享嵌入空间。

    推荐理由:给出了参数量、内存占用与上下文长度等具体指标,读者可据此判断它是否适合端侧部署。

  1. Google DeepMind74

    Google DeepMind 发布手语转文字模型 SL2T,落地 Gboard 与 Live Transcribe

    Google DeepMind 发布多语言手语转文字(SL2T)模型,率先在 Pixel 11 的 Gboard 和 Live Transcribe 中提供美式手语(ASL)转英文的签名输入功能,后续将支持更多设备与语言。

    推荐理由:原文交代了手语翻译相比语音转写的两类核心难点,以及用姿态关键点替代原始视频的隐私设计,便于理解该模型的技术取舍。

  1. Hugging Face Blog78

    Meta 发布开源多模态模型 Muse Glimmer-30B,面向本地智能体场景

    Meta 发布 Muse Glimmer-30B,一款从 Muse 蒸馏至 30B 参数、采用 Apache 2.0 许可的多模态模型,面向本地智能体用例,适用于编码、文档分析、个人助手等注重隐私的场景。

    推荐理由:原文给出架构细节与部署入口,读者可据此判断本地智能体场景下的落地成本与可行性。

  1. Google DeepMind74

    Google DeepMind 开源实验性扩散文本模型 DiffusionGemma,推理提速最高 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次并行生成整段文本,在专用 GPU 上文本生成速度最高提升 4 倍,单张 NVIDIA H100 可达 1000+ tokens per second,NVIDIA GeForce RTX 5090 可达 700+ tokens per second。

    推荐理由:原文给出了速度、显存与质量取舍的具体数据,读者可据此判断它是否适合本地交互场景。

  1. Google DeepMind74

    Google DeepMind 发布 Gemma 4 12B:无编码器多模态模型

    Google DeepMind 发布 Gemma 4 12B,定位为可在 16GB RAM 消费级笔记本本地运行的智能体多模态模型,是该系列首个支持原生音频输入的中等规模模型。

    推荐理由:原文说明了无编码器架构如何省下延迟与显存,读者可据此判断本地多模态部署的可行性。

  1. Hugging Face Blog74

    Hugging Face 发布 Holo3.1 系列计算机使用智能体模型

    Hugging Face 发布 Holo3.1 系列计算机使用智能体模型,基于 Qwen 家族,提供 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF、NVFP4 量化权重以支持本地推理。

    推荐理由:给出了各尺寸在移动与桌面基准上的具体提升和量化后的吞吐数据,可据此评估本地部署的可行性。

  1. Hugging Face Blog74

    NVIDIA 发布 Nemotron 3 Nano Omni 多模态理解模型

    NVIDIA 发布 Nemotron 3 Nano Omni,一个面向文档分析、多图推理、语音识别、长音视频理解与智能体计算机使用的全模态理解模型,已在 Hugging Face 开放 BF16、FP8 和 NVFP4 权重。

    推荐理由:原文给出架构细节、训练配方与多组基准对比,读者可据此评估它在文档、音视频与智能体场景的可用性。

  1. Google DeepMind83

    Google DeepMind 发布开源模型 Gemma 4 系列

    Google DeepMind 发布 Gemma 4 开源模型系列,采用 Apache 2.0 许可,包含 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,主打推理与智能体工作流。

    推荐理由:原文给出了各尺寸的硬件适配与开源许可细节,读者可据此判断本地部署和微调的可行路径。

  1. Hugging Face Blog88

    Google DeepMind 发布 Gemma 4 多模态模型家族

    Google DeepMind 在 Hugging Face 上发布 Gemma 4 多模态模型家族,采用 Apache 2 许可,共五个尺寸(E2B、E4B、12B Unified、31B、26B A4B MoE),均提供 base 与 IT 检查点,支持图像、文本输入,小尺寸与 12B Unified 还支持音频。

    推荐理由:原文列出五档尺寸、架构取舍与各基准分数,读者可据此判断端侧与 MoE 方案的实际取舍。

  1. Hugging Face Blog73

    Google 发布 EmbeddingGemma 多语言嵌入模型

    Google 发布 EmbeddingGemma(google/embeddinggemma-300m),一款 308M 参数、2K 上下文窗口、支持 100 多种语言的多语言嵌入模型,面向端侧场景,量化后内存占用低于 200 MB,在 MTEB 上是 500M 以下排名最高的纯文本多语言嵌入模型。

    推荐理由:给出了架构改动、多框架接入方式和微调脚本,读者可据此判断如何在端侧 RAG 中落地该模型。

  1. Hugging Face Blog81

    Gemma 3n 在开源生态全面开放可用

    Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等主流开源库开放可用,原生支持图像、文本、音频和视频输入。

    推荐理由:原文给出了模型规格、显存需求和各库接入方式,读者可据此判断能否在自己的设备上跑起来。

  1. Mistral AI74

    Mistral AI 发布 Mistral Small 3.1 模型

    Mistral AI 宣布发布 Mistral Small 3.1,基于 Mistral Small 3 升级,改进了文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度达 150 tokens per second,以 Apache 2.0 许可开源。

    推荐理由:原文列出了上下文、速度与运行门槛,读者可据此判断它是否适合端侧与低延迟场景。

  1. Hugging Face Blog62

    Hugging Face 发布 SmolVLM2 系列视频理解模型

    Hugging Face 发布 SmolVLM2 系列三个新模型,参数量分别为 2.2B、500M 和 256M,主打在手机到服务器等各类设备上运行视频理解。2.2B 版本在 Video-MME 上超过现有 2B 模型,500M 和 256M 版本被称为迄今发布的最小视频语言模型,其中 500M 版本以不到四分之一的参数量接近 2.2B 的视频理解能力。

    推荐理由:原文给出三档参数量、Video-MME 表现和 MLX/Swift 接入方式,读者可据此判断小模型视频理解能否落到自己的设备上。

  1. Mistral AI69

    Mistral 发布 Mistral Small 3:24B 参数、Apache 2.0 开源模型

    Mistral AI 发布 Mistral Small 3,一个延迟优化的 24B 参数模型,以 Apache 2.0 许可开源,提供预训练和指令微调两个 checkpoint。

    推荐理由:原文给出了参数量、延迟与本地部署门槛,读者可据此判断它是否适合替代闭源小模型。