Hugging Face 分享 Flux LoRA 推理加速方案，H100 上提速 2.23 倍
Hugging Face 官方博客介绍了在 Diffusers 和 PEFT 中优化 Flux.1-Dev 模型 LoRA 推理速度的方案，通过 Flash Attention 3、torch.compile、FP8 量化和支持热交换的加载方式，在 H100 上相比基线取得 2.23 倍加速。
#开源生态
Hugging Face BlogAI 评分5656 Hugging Face BlogAI 评分5555 Hugging Face 开源长视频理解基准 TimeScope：多数 SOTA 模型仍难真正理解长视频
Hugging Face 发布并开源长视频理解基准 TimeScope，通过在 1 分钟至 8 小时的视频中插入 5-10 秒短片作为“针”，以局部检索、信息综合、细粒度时序感知三类任务评估模型的真实时序理解能力。
Hugging Face BlogAI 评分5555 NVIDIA NIM 支持在 Hugging Face 上部署超 10 万个 LLM
NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上快速部署超过 100,000 个 LLM。单个 NIM docker 容器支持 NVIDIA TensorRT-LLM、vLLM 和 SGLang 等推理框架，会自动完成模型格式识别、架构与量化格式检测、后端选择和性能配置，无需手动调优。
Hugging Face BlogAI 评分5555 Gradio 5.38.0 为 MCP 服务器带来五项改进
Gradio 5.38.0 为 MCP 服务器带来五项改进：新增 File Upload MCP 服务器让智能体直接上传本地文件、向 MCP 客户端流式推送实时进度通知、用 gr.load_openapi 一行代码把 OpenAPI 规范转成 MCP 服务器、用 gr.Header 类型标注自动提取并展示认证头、用 api_description 参数自定义工具描述。
Hugging Face Blog精选AI 评分6161 Hugging Face 发布 Ettin 系列配对编码器与解码器模型
Hugging Face Blog 发布 Ettin 系列，包含 17M 到 1B 六种规模的成对 encoder-only 与 decoder-only 模型，使用相同的 2T token 公开数据、架构和训练配方，仅在注意力模式和训练目标上不同。
推荐理由：用同一套数据和配方同时训练编码器与解码器，读者可据此看到架构本身的真实差异。
Mistral AI精选AI 评分7575 Mistral AI 开源 Voxtral 语音理解模型
Mistral AI 发布 Voxtral 语音理解模型，提供 24B 和 3B 两个尺寸，均以 Apache 2.0 许可开源，也可通过 API 调用，API 定价 $0.001 per minute 起。
推荐理由：原文对比了开源与闭源语音方案的取舍，并给出价格与基准数据，便于评估其部署性价比。
Hugging Face BlogAI 评分5656 Hugging Face 官方 MCP Server 的构建与选型实践
Hugging Face 官方博客详解其 hf.co/mcp MCP Server 的构建过程与设计取舍，生产环境采用 Streamable HTTP 的无状态 Direct Response 配置，理由是资源开销最低且现有工具无需在请求间维护状态。
Hugging Face BlogAI 评分5656 Hugging Face 博客详解机器人异步推理：解耦动作预测与执行
Hugging Face 官方博客介绍异步推理方案，将策略推理与动作执行拆分到 PolicyServer 和 RobotClient 两个进程，通过 gRPC 通信，让机器人在推理期间继续执行当前动作队列，消除空闲等待。
Hugging Face BlogAI 评分5454 Hugging Face 教你用 Gradio MCP Servers 为 LLM 添加新能力
Hugging Face 官方博客介绍如何通过 MCP 协议为 LLM 接入新能力：Gradio 自 5.28.0 起支持 MCP 协议，使 Hugging Face Spaces 成为可检索的 MCP App Store。
Hugging Face BlogAI 评分5555 Hugging Face 与 Pollen Robotics 推出开源桌面机器人 Reachy Mini
Hugging Face 与 Pollen Robotics 推出开源桌面机器人 Reachy Mini，提供 $399 的 Lite 版和 $499 的无线 Compute 版，后者搭载 Raspberry Pi 4、电池与无线连接。
Hugging Face BlogAI 评分5858 Hugging Face 与 AMD 合作为 MI300X 打造 Llama 3.1 405B FP8 推理优化 kernel
Hugging Face 与 AMD 合作开源了针对 8 MI300X 节点上用 VLLM 跑 Llama 3.1 405B FP8 推理的优化 kernel，代码发布在 hf-rocm-kernels 仓库。
Hugging Face Blog精选AI 评分7474 Hugging Face 发布开源 3B 模型 SmolLM3：多语言、128k 长上下文与双模式推理
Hugging Face 发布完全开源的 3B 模型 SmolLM3，包含 Base 与 Instruct/Reasoning 两个版本，用 11.2T tokens 训练，性能超过 Llama-3.2-3B 和 Qwen2.5-3B，并与 4B 级模型（Qwen3、Gemma3）竞争。
推荐理由：完整公开了三阶段预训练配方与双模式推理的构建方法，可迁移给自建小模型的团队。
Hugging Face BlogAI 评分5959 Hugging Face 博客：五阶段构建高效多模态数据流水线
Hugging Face 博客基于 nanoVLM 项目排查训练 GPU 空闲问题，发现数据流水线浪费严重，朴素 padding 下约 60% 的 batch 是无用 token。
Mistral AIAI 评分4444 Mistral AI 推出 AI for Citizens 计划
Mistral AI 宣布推出 AI for Citizens 计划，帮助各国政府和公共机构将 AI 用于公共服务转型、创新与竞争力提升，已与法国、卢森堡、新加坡、荷兰、英格兰、瑞士等国的政府、国防、公共部门和教育机构合作。
Hugging Face Blog精选AI 评分8181 Gemma 3n 在开源生态全面开放可用
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等主流开源库开放可用，原生支持图像、文本、音频和视频输入。
推荐理由：原文给出了模型规格、显存需求和各库接入方式，读者可据此判断能否在自己的设备上跑起来。
Hugging Face BlogAI 评分4747 SGLang 集成 Hugging Face transformers 作为后端
SGLang 现已支持将 Hugging Face transformers 作为后端，可开箱运行任何 transformers 兼容模型的高性能推理，遇到 SGLang 原生不支持的模型时会自动回退到 transformers 实现，也可通过 `impl="transformers"` 显式指定。
Hugging Face Blog精选AI 评分6565 Hugging Face 教你在消费级显卡上用 QLoRA 微调 FLUX.1-dev
Hugging Face 官方博客给出用 diffusers 库以 QLoRA 微调 FLUX.1-dev 的完整教程，在 RTX 4090 上峰值显存约 9GB，700 步训练约 41 分钟，而同配置 BF16 LoRA 需 26GB、无优化全量微调估计约 120GB。
推荐理由：给出了完整的显存数据和可复现命令，读者可据此评估自己硬件能否跑通并直接照做。
Hugging Face BlogAI 评分5555 Groq 加入 Hugging Face Inference Providers
Groq 现已作为 Inference Providers 支持的推理提供商上线 Hugging Face Hub，可在模型页面直接调用，并已集成到 JS 和 Python 客户端 SDK。
Hugging Face BlogAI 评分4646 Featherless AI 成为 Hugging Face Inference Providers 新增推理服务商
Featherless AI 正式成为 Hugging Face Hub 的 Inference Providers 服务商，支持 DeepSeek、Meta、Google、Qwen 等大量开源文本与对话模型，以 serverless 定价提供超大模型目录。
Hugging Face BlogAI 评分5555 Hugging Face 推出 Kernel Hub：一行代码加载预编译优化 kernel
Hugging Face 官方博客介绍 Kernel Hub，让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel，覆盖 FlashAttention、量化、MoE、激活函数与归一化等场景。
Hugging Face BlogAI 评分5757 NVIDIA 教程：用 LeRobot SO-101 机械臂微调 Isaac GR00T N1.5
NVIDIA 发布教程，演示如何用单个开源 LeRobot SO-101 机械臂的遥操作数据对 Isaac GR00T N1.5 做后训练微调。
Hugging Face BlogAI 评分5858 Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service
Hugging Face 在 GTC Paris 宣布与 NVIDIA 合作推出 Training Cluster as a Service，让全球研究机构按需申请 GPU 集群、只为训练时长付费，Hugging Face 上 250,000 家组织均可在 hf.co/training-cluster 提交申请。
Mistral AI精选AI 评分7878 Mistral AI 发布首个推理模型 Magistral，含开源 Small 与企业版 Medium
Mistral AI 发布首个推理模型 Magistral，分为开源的 Magistral Small（24B 参数，Apache 2.0 许可）和企业版 Magistral Medium。
推荐理由：原文给出两个变体的参数规模、AIME2024 分数与开放许可，便于读者评估其与现有推理模型的差距。
Hugging Face BlogAI 评分5555 Hugging Face 发布 ScreenSuite：GUI Agent 综合评测套件
Hugging Face 发布 ScreenSuite，一个覆盖 13 个 benchmark 的 GUI Agent 评测套件，按感知、定位、单步动作、多步智能体四类能力统一评估 Vision Language Models。
Hugging Face BlogAI 评分5353 Hugging Face 在 nanoVLM 中从零实现 KV Cache，生成提速 38%
Hugging Face 在 nanoVLM 仓库中从零实现了 KV Cache，使生成速度提升 38%。文章先解释自回归生成中每步都重算全部 K、V 的冗余，再说明缓存各层 K、V 后只需为新 token 计算增量的原理。
Hugging Face BlogAI 评分3434 Arm 上的实时 AI 声音生成：一个面向创作自由的个人工具
Arm 合作伙伴兼生态负责人 Michael Gamble 构建了一个在 Arm CPU 上完全本地运行的个人声音生成应用，基于 Stability AI 的 Stable Audio Open 模型与 PyTorch、TorchAudio，无需 GPU 和云端推理，几秒内即可从提示词生成 .wav 文件。
Hugging Face Blog精选AI 评分6262 H Company 开源 Holo1 GUI 自动化 VLM 系列与 WebClick 基准
H Company 在 Hugging Face 开源了 Holo1 系列 Action VLM（含 Holo1-3B 和 Holo1-7B）以及包含 1,639 个人类式 UI 任务的多模态定位基准 WebClick。
推荐理由：给出了模型规格、基准成绩与单任务成本，读者可据此评估开源 GUI 自动化方案的性价比。
Hugging Face Blog精选AI 评分7474 Hugging Face 发布开源 450M 视觉语言动作模型 SmolVLA
Hugging Face 发布 SmolVLA-450M，一款 450M 参数的开源视觉语言动作模型，可在消费级硬件上运行，仅用 lerobot 标签下的社区共享数据集预训练，在 LIBERO、Meta-World 仿真及 SO100、SO101 真实任务上超过更大的 VLA 和 ACT 基线。
推荐理由：原文给出了训练数据规模、架构取舍和异步推理收益，读者可据此评估小模型 VLA 在消费级硬件上的可行性。
Hugging Face Blog精选AI 评分6161 TRL 支持 vLLM 共置模式，GRPO 训练提速最高 1.73×
Hugging Face 在 TRL 中通过 PR #3394 引入 vLLM colocate 模式，让训练与推理共享同一组 GPU、在同一进程组内轮流执行，取代此前需要独立 GPU 和 HTTP 通信的 server 模式。
推荐理由：原文给出 colocate 模式的实测加速数据和踩坑清单，可帮助判断何时该从 server 模式迁移。
Hugging Face BlogAI 评分1515 Liger GRPO 与 TRL 集成：DeepSpeed ZeRO3 下的 shape mismatch 问题
用户在使用 liger loss 配合 DeepSpeed ZeRO3、以 bf16 精度训练 Qwen/Qwen2.5-0.5B-Instruct 时遇到 shape mismatch 报错，错误发生在 TRL 的 GRPO trainer 调用 liger_kernel 的 LigerFusedLinearGRPOFunction 计算 loss 的过程中。
Hugging Face Blog精选AI 评分6161 Hugging Face 教你用约 70 行 Python 代码构建 MCP 驱动的 Tiny Agent
Hugging Face 发布教程，介绍如何用 Python 构建约 70 行代码的 MCP 驱动 Tiny Agent，并宣布 tiny-agents 已支持 AGENTS.md 标准。
推荐理由：文章拆解了 MCPClient 与 Agent 的关键代码，读者可据此理解一个 MCP 智能体如何用极少代码搭起来。
Hugging Face BlogAI 评分4545 Dell Enterprise Hub 发布新版：一站式在本地部署 AI 模型与应用
Dell 在 Dell Tech World 宣布推出新版 Dell Enterprise Hub，提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的容器化部署方案，支持 NVIDIA H100/H200、AMD MI300X、Intel Gaudi 3 硬件。
Hugging Face Blog精选AI 评分6262 Falcon-H1 系列发布：0.5B 到 34B 混合架构开源模型
Falcon-LLM 团队发布 Falcon-H1 系列共 6 个开源模型（0.5B、1.5B、1.5B-Deep、3B、7B、34B），均提供 base 与 instruct 版本，采用 Apache 2.0 许可。
推荐理由：原文披露了混合架构的取舍与反直觉的数据策略，可迁移借鉴其训练方法论。
Hugging Face BlogAI 评分5555 Hugging Face 开源 nanoVLM：纯 PyTorch 训练视觉语言模型的极简工具包
Hugging Face 发布 nanoVLM，一个用纯 PyTorch 训练视觉语言模型的轻量工具包，灵感来自 Andrej Karpathy 的 nanoGPT，可在免费 Colab 上启动训练。
Hugging Face BlogAI 评分5555 Hugging Face Diffusers 量化后端实测对比：BnB、torchao、Quanto、GGUF 与 FP8
Hugging Face 官方博客以 Flux-dev（BF16 加载约 31.447 GB）为例，实测 Diffusers 集成的 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 五种量化后端的显存与推理表现。
Hugging Face BlogAI 评分5454 Hugging Face 与 Microsoft 扩大合作，Azure AI Foundry 上线 10,000+ 开源模型
在 Microsoft Build 大会上，Satya Nadella 宣布 Microsoft 与 Hugging Face 扩大合作，Azure AI Foundry 的 Model Catalog 中现已可找到 10,000+ 个 Hugging Face 模型，覆盖文本、音频和图像任务，可几次点击完成部署。
Hugging Face BlogAI 评分5656 Falcon-Edge 发布 1.58bit 三值语言模型系列与 onebitllms 微调工具包
Falcon-Edge 团队发布基于 BitNet 架构的 Falcon-Edge 系列 1.58bit 三值语言模型，提供 1B 和 3B 两种参数规模，各有 base 和 instruction-tuned 版本。
Hugging Face Blog精选AI 评分6060 Hugging Face Transformers 将标准化模型定义，降低跨框架贡献门槛
Hugging Face 宣布 Transformers 将成为跨框架的模型定义枢纽：只要模型架构被 transformers 支持，就预期在生态其他部分同样被支持。
推荐理由：原文说明了 Transformers 作为模型定义标准如何打通训练、推理与本地部署链路，读者可据此理解生态碎片化的应对方式。
Hugging Face BlogAI 评分5555 Hugging Face Inference Endpoints 推出 Whisper 快速部署方案，性能提升至高 8 倍
Hugging Face 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署选项，相比上一版性能提升至高 8 倍，让用户一键部署专用转录模型。
Hugging Face BlogAI 评分5656 Hugging Face 盘点过去一年视觉语言模型的关键进展
Hugging Face 发布博客回顾过去一年视觉语言模型（VLM）的发展，覆盖 any-to-any 模型、推理模型、小模型、MoE 解码器、VLA、目标检测与分割、多模态安全、多模态 RAG、多模态 Agent、视频语言模型、DPO 对齐技术和新基准等主题。