Hugging Face 官方 MCP Server 的构建与选型实践
Hugging Face 官方博客详解其 hf.co/mcp MCP Server 的构建过程与设计取舍,生产环境采用 Streamable HTTP 的无状态 Direct Response 配置,理由是资源开销最低且现有工具无需在请求间维护状态。
Hugging Face 官方博客详解其 hf.co/mcp MCP Server 的构建过程与设计取舍,生产环境采用 Streamable HTTP 的无状态 Direct Response 配置,理由是资源开销最低且现有工具无需在请求间维护状态。
Hugging Face 官方博客介绍异步推理方案,将策略推理与动作执行拆分到 PolicyServer 和 RobotClient 两个进程,通过 gRPC 通信,让机器人在推理期间继续执行当前动作队列,消除空闲等待。
Hugging Face 官方博客介绍如何通过 MCP 协议为 LLM 接入新能力:Gradio 自 5.28.0 起支持 MCP 协议,使 Hugging Face Spaces 成为可检索的 MCP App Store。
Hugging Face 与 Pollen Robotics 推出开源桌面机器人 Reachy Mini,提供 $399 的 Lite 版和 $499 的无线 Compute 版,后者搭载 Raspberry Pi 4、电池与无线连接。
Hugging Face 发布完全开源的 3B 模型 SmolLM3,包含 Base 与 Instruct/Reasoning 两个版本,用 11.2T tokens 训练,性能超过 Llama-3.2-3B 和 Qwen2.5-3B,并与 4B 级模型(Qwen3、Gemma3)竞争。
推荐理由:完整公开了三阶段预训练配方与双模式推理的构建方法,可迁移给自建小模型的团队。
Hugging Face 博客基于 nanoVLM 项目排查训练 GPU 空闲问题,发现数据流水线浪费严重,朴素 padding 下约 60% 的 batch 是无用 token。
Hugging Face 基础设施团队详解支撑其生产环境的三大关键告警:NAT Gateway 出口流量阈值告警、Hub 请求日志归档成功率告警,以及第三项告警。日志管线由 Filebeat 采集、Logstash 富化(含 GeoIP)、Elasticsearch 存储构成,告警用于在问题演变为重大事故前及时发现并响应,保障平台稳定性与可用性。
Hugging Face 宣布 NeurIPS 2025 E2LM 竞赛,征集能捕捉 LLM 早期训练阶段(约 200B tokens 内)科学知识领域信号的新评测基准,参赛方案需基于 lm-evaluation-harness 库通过 Hugging Face Space 提交。
Hugging Face 官方博客给出用 Sentence Transformers 微调稀疏编码器(Sparse Encoder)的完整教程,涵盖模型、数据集、损失函数、训练参数、评估器与 Trainer 各组件,并介绍 SPLADE、Inference-free SPLADE、CSR 三种架构的选型。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等主流开源库开放可用,原生支持图像、文本、音频和视频输入。
推荐理由:原文给出了模型规格、显存需求和各库接入方式,读者可据此判断能否在自己的设备上跑起来。
SGLang 现已支持将 Hugging Face transformers 作为后端,可开箱运行任何 transformers 兼容模型的高性能推理,遇到 SGLang 原生不支持的模型时会自动回退到 transformers 实现,也可通过 `impl="transformers"` 显式指定。
Groq 现已作为 Inference Providers 支持的推理提供商上线 Hugging Face Hub,可在模型页面直接调用,并已集成到 JS 和 Python 客户端 SDK。
Featherless AI 正式成为 Hugging Face Hub 的 Inference Providers 服务商,支持 DeepSeek、Meta、Google、Qwen 等大量开源文本与对话模型,以 serverless 定价提供超大模型目录。
Hugging Face 官方博客介绍 Kernel Hub,让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel,覆盖 FlashAttention、量化、MoE、激活函数与归一化等场景。
Hugging Face 在 GTC Paris 宣布与 NVIDIA 合作推出 Training Cluster as a Service,让全球研究机构按需申请 GPU 集群、只为训练时长付费,Hugging Face 上 250,000 家组织均可在 hf.co/training-cluster 提交申请。
Hugging Face 发布 ScreenSuite,一个覆盖 13 个 benchmark 的 GUI Agent 评测套件,按感知、定位、单步动作、多步智能体四类能力统一评估 Vision Language Models。
Hugging Face 发布 SmolVLA-450M,一款 450M 参数的开源视觉语言动作模型,可在消费级硬件上运行,仅用 lerobot 标签下的社区共享数据集预训练,在 LIBERO、Meta-World 仿真及 SO100、SO101 真实任务上超过更大的 VLA 和 ACT 基线。
推荐理由:原文给出了训练数据规模、架构取舍和异步推理收益,读者可据此评估小模型 VLA 在消费级硬件上的可行性。
Hugging Face 在 TRL 中通过 PR #3394 引入 vLLM colocate 模式,让训练与推理共享同一组 GPU、在同一进程组内轮流执行,取代此前需要独立 GPU 和 HTTP 通信的 server 模式。
推荐理由:原文给出 colocate 模式的实测加速数据和踩坑清单,可帮助判断何时该从 server 模式迁移。
Hugging Face 发布研究,提出 Structured CodeAgent,让 CodeAgent 以 JSON 格式同时生成 thoughts 和 code 字段,在 GAIA、MATH、SimpleQA、Frames 等基准上比普通 CodeAgent 平均提升 2-7 个百分点。
用户在使用 liger loss 配合 DeepSpeed ZeRO3、以 bf16 精度训练 Qwen/Qwen2.5-0.5B-Instruct 时遇到 shape mismatch 报错,错误发生在 TRL 的 GRPO trainer 调用 liger_kernel 的 LigerFusedLinearGRPOFunction 计算 loss 的过程中。
Hugging Face 发布教程,介绍如何用 Python 构建约 70 行代码的 MCP 驱动 Tiny Agent,并宣布 tiny-agents 已支持 AGENTS.md 标准。
推荐理由:文章拆解了 MCPClient 与 Agent 的关键代码,读者可据此理解一个 MCP 智能体如何用极少代码搭起来。
Dell 在 Dell Tech World 宣布推出新版 Dell Enterprise Hub,提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的容器化部署方案,支持 NVIDIA H100/H200、AMD MI300X、Intel Gaudi 3 硬件。
Hugging Face 发布 nanoVLM,一个用纯 PyTorch 训练视觉语言模型的轻量工具包,灵感来自 Andrej Karpathy 的 nanoGPT,可在免费 Colab 上启动训练。
Hugging Face 官方博客以 Flux-dev(BF16 加载约 31.447 GB)为例,实测 Diffusers 集成的 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 五种量化后端的显存与推理表现。
在 Microsoft Build 大会上,Satya Nadella 宣布 Microsoft 与 Hugging Face 扩大合作,Azure AI Foundry 的 Model Catalog 中现已可找到 10,000+ 个 Hugging Face 模型,覆盖文本、音频和图像任务,可几次点击完成部署。
Falcon-Edge 团队发布基于 BitNet 架构的 Falcon-Edge 系列 1.58bit 三值语言模型,提供 1B 和 3B 两种参数规模,各有 base 和 instruction-tuned 版本。
Hugging Face 宣布 Transformers 将成为跨框架的模型定义枢纽:只要模型架构被 transformers 支持,就预期在生态其他部分同样被支持。
推荐理由:原文说明了 Transformers 作为模型定义标准如何打通训练、推理与本地部署链路,读者可据此理解生态碎片化的应对方式。
Kaggle 上线与 Hugging Face 的集成,用户可在 Hugging Face 模型页点击“Use this model”选择 Kaggle 直接打开预填代码的 Notebook,反向也可从 Kaggle 跳回 Hugging Face。
Hugging Face 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署选项,相比上一版性能提升至高 8 倍,让用户一键部署专用转录模型。
LeRobot 官方博客把机器人泛化定义为数据问题,介绍社区数据集在 Hugging Face Hub 上快速增长的现状,并指出当前数据集在任务标注、特征命名、episode 完整性和动作维度上的常见问题。
Hugging Face 博客通过对比 Qwen-3 与 Qwen-2.5、QwQ 的 Jinja 聊天模板,总结出四点设计变化。Qwen-3 可通过 enable_thinking 标志关闭推理,用滚动检查点保留工具调用后的完整 think 块并裁剪更早内容,工具参数仅在非字符串时才做 tojson 序列化,且不再内置默认系统提示词。这些改动旨在提升智能体工作流的可靠性与效率。
Hugging Face 官方教程介绍如何用 Gradio 把任意 Python 函数变成 LLM 可调用的 MCP 工具,只需在 launch 中设置 mcp_server=True 即可启动 MCP 服务器并获得 SSE 端点。
Intel 推出 AutoRound,一款基于 signed gradient descent 的 weight-only 后训练量化(PTQ)工具,支持 INT2-INT8 低比特量化,在 INT2 精度下相对准确率比主流基线最高高出 2.1x。
Meta 发布 Llama Guard 4,一个 12B 稠密多模态安全模型,以及两款新的 Llama Prompt Guard 2 分类器(86M 和 22M 参数)。
推荐理由:原文给出了从 Llama 4 Scout 剪枝为稠密模型的架构细节和与上一代的对比数据,便于判断其部署成本与效果取舍。
Hugging Face 与 ServiceNow 开源了实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行 inflight 权重更新,让推理服务器在不中断推理的情况下接收新权重,从而兼顾高推理吞吐与 on-policy 数据。
Hugging Face 发布 Tiny Agent,用约 50 行 TypeScript 代码实现一个由 MCP 驱动的 Agent,核心思路是 MCP 客户端之上套一个 while 循环。
推荐理由:文章把 MCP 客户端与 Agent 的实现拆解到 50 行代码级别,读者可直接照搬这套 while 循环结构到自己的项目。
Gradio 官方博客列出 17 个理由,说明它不只是 UI 库,而是通过 UI 与 API 交互机器学习模型的框架。
Cohere 现已成为 Hugging Face Inference Providers 支持的推理服务商,也是首个在 HF Hub 上直接提供并服务自家模型的模型创建方,用户可对 c4ai-command-a-03-2025、c4ai-command-r7b-12-2024、aya-expanse-32b、aya-vision-32b 等模型运行 serverless 推理。
Hugging Face 宣布收购成立 9 年的开源机器人公司 Pollen Robotics,这是继 Gradio、XetHub 之后其第五次收购,并将开售首款开源人形机器人 Reachy 2,售价 $70,000,已在 Cornell、Carnegie Mellon 等实验室使用。
推荐理由:梳理了 Hugging Face 从 LeRobot 到收购 Pollen Robotics 的完整布局,便于理解其开源机器人路线。
Hugging Face 与 Protect AI 自 2024 年 10 月合作以来,Guardian 已在 Hub 上扫描 141 万个仓库中的 447 万个唯一模型版本,在 51,700 个模型上累计发现 352,000 个不安全或可疑问题,近 30 天处理 226 million requests、响应时间 7.94 ms。