Hugging Face 教你用 Gradio MCP Servers 为 LLM 添加新能力
Hugging Face 官方博客介绍如何通过 MCP 协议为 LLM 接入新能力:Gradio 自 5.28.0 起支持 MCP 协议,使 Hugging Face Spaces 成为可检索的 MCP App Store。
Hugging Face 官方博客介绍如何通过 MCP 协议为 LLM 接入新能力:Gradio 自 5.28.0 起支持 MCP 协议,使 Hugging Face Spaces 成为可检索的 MCP App Store。
Hugging Face 与 Pollen Robotics 推出开源桌面机器人 Reachy Mini,提供 $399 的 Lite 版和 $499 的无线 Compute 版,后者搭载 Raspberry Pi 4、电池与无线连接。
Hugging Face 与 AMD 合作开源了针对 8 MI300X 节点上用 VLLM 跑 Llama 3.1 405B FP8 推理的优化 kernel,代码发布在 hf-rocm-kernels 仓库。
OpenAI 与 American Federation of Teachers 合作启动一项 5 年计划,为 400,000 名 K-12 教师提供培训,使其能在课堂上主导 AI 创新。该计划面向美国中小学教育工作者,旨在让教师成为学校 AI 应用的推动者。
Hugging Face 发布完全开源的 3B 模型 SmolLM3,包含 Base 与 Instruct/Reasoning 两个版本,用 11.2T tokens 训练,性能超过 Llama-3.2-3B 和 Qwen2.5-3B,并与 4B 级模型(Qwen3、Gemma3)竞争。
推荐理由:完整公开了三阶段预训练配方与双模式推理的构建方法,可迁移给自建小模型的团队。
Hugging Face 博客基于 nanoVLM 项目排查训练 GPU 空闲问题,发现数据流水线浪费严重,朴素 padding 下约 60% 的 batch 是无用 token。
Hugging Face 基础设施团队详解支撑其生产环境的三大关键告警:NAT Gateway 出口流量阈值告警、Hub 请求日志归档成功率告警,以及第三项告警。日志管线由 Filebeat 采集、Logstash 富化(含 GeoIP)、Elasticsearch 存储构成,告警用于在问题演变为重大事故前及时发现并响应,保障平台稳定性与可用性。
Hugging Face 宣布 NeurIPS 2025 E2LM 竞赛,征集能捕捉 LLM 早期训练阶段(约 200B tokens 内)科学知识领域信号的新评测基准,参赛方案需基于 lm-evaluation-harness 库通过 Hugging Face Space 提交。
Mistral AI 宣布推出 AI for Citizens 计划,帮助各国政府和公共机构将 AI 用于公共服务转型、创新与竞争力提升,已与法国、卢森堡、新加坡、荷兰、英格兰、瑞士等国的政府、国防、公共部门和教育机构合作。
Genspark 用 GPT-4.1 和 OpenAI Realtime API 驱动的无代码智能体,在 45 天内做出 ARR 达 $36M 的 AI 产品。文章介绍其如何借助这两个 API 构建个人智能体,无需写代码即可上线。
Hugging Face 官方博客给出用 Sentence Transformers 微调稀疏编码器(Sparse Encoder)的完整教程,涵盖模型、数据集、损失函数、训练参数、评估器与 Trainer 各组件,并介绍 SPLADE、Inference-free SPLADE、CSR 三种架构的选型。
OpenAI 与 Mandala Partners 合作发布 OpenAI AI Economic Blueprint for Australia,为澳大利亚提供一份可落地的行动方案,帮助其释放人工智能的经济与社会潜力。该蓝图发布于澳大利亚将提升生产力列为国家优先事项之际。
NVIDIA 在 Hugging Face Hub 开源 Llama Nemotron Nano VL,一款面向智能文档处理的 8B 视觉语言模型,在 OCRBench v2 上取得领先成绩,并在 ChartQA、AI2D 等基准上表现良好。
Retell 采用 OpenAI 模型驱动其语音智能体业务,每月支撑 1 亿通电话。GPT-6 Astra 在 Retell 的语音智能体基准测试中排名第一,Codex 则帮助 Retell 达到每名员工 160 万美元的年化营收。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等主流开源库开放可用,原生支持图像、文本、音频和视频输入。
推荐理由:原文给出了模型规格、显存需求和各库接入方式,读者可据此判断能否在自己的设备上跑起来。
AI 驱动的 GTM 平台 Unify 使用 OpenAI 的 o3、GPT-4.1 和 CUA 自动化潜客开发、调研与外联。通过超个性化消息和全天候工作流,Unify 帮助团队规模化生成销售管道,同时聚焦高价值的客户互动。
SGLang 现已支持将 Hugging Face transformers 作为后端,可开箱运行任何 transformers 兼容模型的高性能推理,遇到 SGLang 原生不支持的模型时会自动回退到 transformers 实现,也可通过 `impl="transformers"` 显式指定。
Hugging Face 官方博客给出用 diffusers 库以 QLoRA 微调 FLUX.1-dev 的完整教程,在 RTX 4090 上峰值显存约 9GB,700 步训练约 41 分钟,而同配置 BF16 LoRA 需 26GB、无优化全量微调估计约 120GB。
推荐理由:给出了完整的显存数据和可复现命令,读者可据此评估自己硬件能否跑通并直接照做。
OpenAI 正在主动评估先进 AI 在生物学和医学领域的能力,并实施安全防护措施,以防止其被滥用。文章指出,先进 AI 能够变革生物学与医学,但同时也带来生物安全风险。
OpenAI 研究了在错误响应上训练如何导致语言模型出现更广泛的错位,并识别出驱动该行为的一个内部特征,该特征可通过最少的微调加以逆转。
OpenAI 推出 OpenAI for Government 新计划,面向美国公职人员提供其最先进的 AI 工具。该计划旨在支持美国政府采用一流技术,并将这些工具用于公共服务。
Groq 现已作为 Inference Providers 支持的推理提供商上线 Hugging Face Hub,可在模型页面直接调用,并已集成到 JS 和 Python 客户端 SDK。
TNG 在自托管的 24 张 H100 集群上为 50 多个应用提供 LLM 服务,日处理超 1 亿输入 token、生成超 1000 万输出 token,文章分析了长提示词如何阻塞 prefill 队列并拖慢并发 decode。
OpenAI 与 Mattel 达成合作,将 AI 引入 Barbie、Hot Wheels 等标志性品牌,用于增强创意开发、优化工作流程并为粉丝创造新的互动方式。
Featherless AI 正式成为 Hugging Face Hub 的 Inference Providers 服务商,支持 DeepSeek、Meta、Google、Qwen 等大量开源文本与对话模型,以 serverless 定价提供超大模型目录。
Hugging Face 官方博客介绍 Kernel Hub,让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel,覆盖 FlashAttention、量化、MoE、激活函数与归一化等场景。
NVIDIA 发布教程,演示如何用单个开源 LeRobot SO-101 机械臂的遥操作数据对 Isaac GR00T N1.5 做后训练微调。
Mistral AI 宣布推出 Mistral Compute,这是一套面向客户的私有集成AI基础设施,涵盖 GPU、编排、API、产品与服务,形态从裸金属服务器到全托管 PaaS。
Hugging Face 在 GTC Paris 宣布与 NVIDIA 合作推出 Training Cluster as a Service,让全球研究机构按需申请 GPU 集群、只为训练时长付费,Hugging Face 上 250,000 家组织均可在 hf.co/training-cluster 提交申请。
Mistral AI 发布首个推理模型 Magistral,分为开源的 Magistral Small(24B 参数,Apache 2.0 许可)和企业版 Magistral Medium。
推荐理由:原文给出两个变体的参数规模、AIME2024 分数与开放许可,便于读者评估其与现有推理模型的差距。
OpenAI 推出 Outbound Coordinated Disclosure Policy,用于指导其如何负责任地向第三方软件报告漏洞。该政策强调诚信、协作与规模化主动安全,以配合 OpenAI 的对外协调披露工作。
Hugging Face 发布 ScreenSuite,一个覆盖 13 个 benchmark 的 GUI Agent 评测套件,按感知、定位、单步动作、多步智能体四类能力统一评估 Vision Language Models。
OpenAI 表示正在就一项法院命令提起抗辩,该命令源自 The New York Times 及原告方的要求,涉及无限期保留消费级 ChatGPT 和 API 用户数据。OpenAI 称其正在努力维护用户隐私、满足法律要求并坚持数据保护承诺。
OpenAI 发布最新报告,通过案例研究介绍其如何检测并预防 AI 的恶意使用。报告聚焦于识别和阻止针对 AI 系统的恶意行为。
Mistral AI 宣布推出 Mistral Code,一款面向企业开发团队的 AI 编码助手,整合四个编码模型(Codestral、Codestral Embed。
Hugging Face 在 nanoVLM 仓库中从零实现了 KV Cache,使生成速度提升 38%。文章先解释自回归生成中每步都重算全部 K、V 的冗余,再说明缓存各层 K、V 后只需为新 token 计算增量的原理。
Arm 合作伙伴兼生态负责人 Michael Gamble 构建了一个在 Arm CPU 上完全本地运行的个人声音生成应用,基于 Stability AI 的 Stable Audio Open 模型与 PyTorch、TorchAudio,无需 GPU 和云端推理,几秒内即可从提示词生成 .wav 文件。
H Company 在 Hugging Face 开源了 Holo1 系列 Action VLM(含 Holo1-3B 和 Holo1-7B)以及包含 1,639 个人类式 UI 任务的多模态定位基准 WebClick。
推荐理由:给出了模型规格、基准成绩与单任务成本,读者可据此评估开源 GUI 自动化方案的性价比。
Hugging Face 发布 SmolVLA-450M,一款 450M 参数的开源视觉语言动作模型,可在消费级硬件上运行,仅用 lerobot 标签下的社区共享数据集预训练,在 LIBERO、Meta-World 仿真及 SO100、SO101 真实任务上超过更大的 VLA 和 ACT 基线。
推荐理由:原文给出了训练数据规模、架构取舍和异步推理收益,读者可据此评估小模型 VLA 在消费级硬件上的可行性。
Hugging Face 在 TRL 中通过 PR #3394 引入 vLLM colocate 模式,让训练与推理共享同一组 GPU、在同一进程组内轮流执行,取代此前需要独立 GPU 和 HTTP 通信的 server 模式。
推荐理由:原文给出 colocate 模式的实测加速数据和踩坑清单,可帮助判断何时该从 server 模式迁移。