Hugging Face Jupyter Agent:用 Kaggle Notebook 数据微调 Qwen3-4B 提升数据科学智能体能力
Hugging Face 发布 Jupyter Agent 项目后续工作,通过生成高质量训练数据并微调 Qwen3-4B,使其在 DABStep 数据科学基准上成为 SOTA 小模型智能体。
推荐理由:完整拆解了从数据清洗到微调评测的全流程,可迁移的方法细节和踩坑经验较多。
Hugging Face 发布 Jupyter Agent 项目后续工作,通过生成高质量训练数据并微调 Qwen3-4B,使其在 DABStep 数据科学基准上成为 SOTA 小模型智能体。
推荐理由:完整拆解了从数据清洗到微调评测的全流程,可迁移的方法细节和踩坑经验较多。
Mistral AI 宣布完成 1.7B€ 的 C 轮融资,投后估值 11.7B€,由半导体设备厂商 ASML Holding NV 领投,DST Global、Andreessen Horowitz、Bpifrance、General Catalyst、Index Ventures、Lightspeed 和 NVIDIA 等现有投资方参与。
Hugging Face 发布 mmBERT,一个基于 ModernBERT 构建的大规模多语言编码器模型,使用 3T+ tokens、覆盖 1800 多种语言训练,是首个在性能与速度上超越 XLM-R 的同类模型。
推荐理由:原文给出三阶段训练与低资源语言在衰减阶段快速学习的细节,可迁移其渐进式多语言训练思路。
SandboxAQ 发布并开源了结构增强 IC50 数据集 SAIR,现已上线 Hugging Face,提供超过 500 万组 AI 生成的高精度蛋白-配体 3D 结构,每组配对来自 ChEMBL 或 BindingDB 的实测 IC₅₀ 数据,以 CC BY 4.0 许可免费开放。
Hugging Face 官方博客介绍如何在 ZeroGPU Spaces 中接入 PyTorch ahead-of-time (AoT) 编译,利用 spaces 包提供的 aoti_capture。
推荐理由:文章给出可直接复用的 AoT 编译接入步骤和多种进阶技巧,读者可据此改造自己的 ZeroGPU 应用。
NVIDIA 发布 600 万条多语言推理数据集 Nemotron Post-Training Dataset v2,将此前的英文推理数据翻译为法语、西班牙语、德语、意大利语和日语五种目标语言,保留原始英文推理链以利用预训练阶段的英文知识。
Hugging Face 官方博客给出使用 kernel-builder 库从零构建 CUDA kernel 的完整教程,以 RGB 转灰度图为例,演示项目结构。
Hugging Face 与 AI-MO 开源了 kimina-prover-rl 训练管线,用于 Lean 4 形式化定理证明,采用受 DeepSeek-R1 启发的先推理后生成范式,基于 GRPO 与 Verl 框架,训练配方以 recipe/kimina-prover-rl 形式随 Verl fork 发布。
推荐理由:原文给出了完整的训练配方与开源入口,读者可据此复现小参数模型上的强化学习定理证明流程。
ExecuTorch 0.7 beta 将默认启用 Arm KleidiAI,让 Android 与跨平台开发者无需集成改动即可获得更快的模型启动、更低延迟和更省内存的端侧推理。
Hugging Face 在 Accelerate 中通过 ParallelismConfig 类支持任意组合 DP、FSDP、Tensor Parallel、Context Parallel 等并行策略,并同步集成进 Axolotl,配置只需在 config 文件中添加 dp_shard_size、tensor_parallel_size 等字段。
Hugging Face 发布开源无代码工具 AI Sheets,用于用 AI 模型构建、转换和丰富数据集,可本地部署或部署到 Hub,通过 Inference Providers 或本地模型调用 Hub 上的数千个开放模型,包括 OpenAI 的 gpt-oss。
推荐理由:原文给出了免安装入口、导入与生成两种起步方式以及 few-shot 反馈机制,读者可据此判断它如何嵌入现有数据工作流。
Hugging Face 发布博客介绍 OpenAI 新开源的 gpt-oss 模型家族,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,采用 Apache 2.0 许可,120B 可装入单张 H100,20B 可在 16GB 显存内运行。
推荐理由:系统梳理了 gpt-oss 在不同硬件上的推理优化选择,可直接作为本地部署的参考。
OpenAI 在论文中研究了发布 gpt-oss 的最坏情况前沿风险,提出恶意微调(MFT)方法,试图通过微调让 gpt-oss 在生物和网络安全两个领域发挥最大能力。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重推理模型,采用 Apache 2.0 许可证并遵循 gpt-oss 使用政策提供下载。
推荐理由:官方模型卡说明了开放权重与许可方式,读者可据此评估其可商用性和部署门槛。
NVIDIA 的 AI-Q Blueprint 在 Hugging Face DeepResearch Bench 的 LLM with Search 榜单登顶,2025 年 8 月总分为 40.52,是完全开放许可栈的最高分。
Hugging Face 官方博客介绍如何用 Gradio 的 MCP 集成把 Python 函数自动转成 LLM 可调用的工具,并以 IDM-VTON 虚拟试衣模型为例构建 AI 购物助手。
Hugging Face 宣布 Parquet Content-Defined Chunking(CDC)现已在 PyArrow 和 Pandas 中可用,通过传入 use_content_defined_chunking=True 即可启用,配合 Xet 存储层只上传或下载发生变化的数据块,从而降低传输与存储成本。
Hugging Face 官方博客介绍了在 Diffusers 和 PEFT 中优化 Flux.1-Dev 模型 LoRA 推理速度的方案,通过 Flash Attention 3、torch.compile、FP8 量化和支持热交换的加载方式,在 H100 上相比基线取得 2.23 倍加速。
Hugging Face 发布并开源长视频理解基准 TimeScope,通过在 1 分钟至 8 小时的视频中插入 5-10 秒短片作为“针”,以局部检索、信息综合、细粒度时序感知三类任务评估模型的真实时序理解能力。
NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上快速部署超过 100,000 个 LLM。单个 NIM docker 容器支持 NVIDIA TensorRT-LLM、vLLM 和 SGLang 等推理框架,会自动完成模型格式识别、架构与量化格式检测、后端选择和性能配置,无需手动调优。
Gradio 5.38.0 为 MCP 服务器带来五项改进:新增 File Upload MCP 服务器让智能体直接上传本地文件、向 MCP 客户端流式推送实时进度通知、用 gr.load_openapi 一行代码把 OpenAPI 规范转成 MCP 服务器、用 gr.Header 类型标注自动提取并展示认证头、用 api_description 参数自定义工具描述。
Hugging Face Blog 发布 Ettin 系列,包含 17M 到 1B 六种规模的成对 encoder-only 与 decoder-only 模型,使用相同的 2T token 公开数据、架构和训练配方,仅在注意力模式和训练目标上不同。
推荐理由:用同一套数据和配方同时训练编码器与解码器,读者可据此看到架构本身的真实差异。
Mistral AI 发布 Voxtral 语音理解模型,提供 24B 和 3B 两个尺寸,均以 Apache 2.0 许可开源,也可通过 API 调用,API 定价 $0.001 per minute 起。
推荐理由:原文对比了开源与闭源语音方案的取舍,并给出价格与基准数据,便于评估其部署性价比。
Hugging Face 官方博客详解其 hf.co/mcp MCP Server 的构建过程与设计取舍,生产环境采用 Streamable HTTP 的无状态 Direct Response 配置,理由是资源开销最低且现有工具无需在请求间维护状态。
Hugging Face 官方博客介绍异步推理方案,将策略推理与动作执行拆分到 PolicyServer 和 RobotClient 两个进程,通过 gRPC 通信,让机器人在推理期间继续执行当前动作队列,消除空闲等待。
Hugging Face 官方博客介绍如何通过 MCP 协议为 LLM 接入新能力:Gradio 自 5.28.0 起支持 MCP 协议,使 Hugging Face Spaces 成为可检索的 MCP App Store。
Hugging Face 与 Pollen Robotics 推出开源桌面机器人 Reachy Mini,提供 $399 的 Lite 版和 $499 的无线 Compute 版,后者搭载 Raspberry Pi 4、电池与无线连接。
Hugging Face 与 AMD 合作开源了针对 8 MI300X 节点上用 VLLM 跑 Llama 3.1 405B FP8 推理的优化 kernel,代码发布在 hf-rocm-kernels 仓库。
Hugging Face 发布完全开源的 3B 模型 SmolLM3,包含 Base 与 Instruct/Reasoning 两个版本,用 11.2T tokens 训练,性能超过 Llama-3.2-3B 和 Qwen2.5-3B,并与 4B 级模型(Qwen3、Gemma3)竞争。
推荐理由:完整公开了三阶段预训练配方与双模式推理的构建方法,可迁移给自建小模型的团队。
Hugging Face 博客基于 nanoVLM 项目排查训练 GPU 空闲问题,发现数据流水线浪费严重,朴素 padding 下约 60% 的 batch 是无用 token。
Mistral AI 宣布推出 AI for Citizens 计划,帮助各国政府和公共机构将 AI 用于公共服务转型、创新与竞争力提升,已与法国、卢森堡、新加坡、荷兰、英格兰、瑞士等国的政府、国防、公共部门和教育机构合作。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等主流开源库开放可用,原生支持图像、文本、音频和视频输入。
推荐理由:原文给出了模型规格、显存需求和各库接入方式,读者可据此判断能否在自己的设备上跑起来。
SGLang 现已支持将 Hugging Face transformers 作为后端,可开箱运行任何 transformers 兼容模型的高性能推理,遇到 SGLang 原生不支持的模型时会自动回退到 transformers 实现,也可通过 `impl="transformers"` 显式指定。
Hugging Face 官方博客给出用 diffusers 库以 QLoRA 微调 FLUX.1-dev 的完整教程,在 RTX 4090 上峰值显存约 9GB,700 步训练约 41 分钟,而同配置 BF16 LoRA 需 26GB、无优化全量微调估计约 120GB。
推荐理由:给出了完整的显存数据和可复现命令,读者可据此评估自己硬件能否跑通并直接照做。
Groq 现已作为 Inference Providers 支持的推理提供商上线 Hugging Face Hub,可在模型页面直接调用,并已集成到 JS 和 Python 客户端 SDK。
Featherless AI 正式成为 Hugging Face Hub 的 Inference Providers 服务商,支持 DeepSeek、Meta、Google、Qwen 等大量开源文本与对话模型,以 serverless 定价提供超大模型目录。
Hugging Face 官方博客介绍 Kernel Hub,让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel,覆盖 FlashAttention、量化、MoE、激活函数与归一化等场景。
NVIDIA 发布教程,演示如何用单个开源 LeRobot SO-101 机械臂的遥操作数据对 Isaac GR00T N1.5 做后训练微调。
Hugging Face 在 GTC Paris 宣布与 NVIDIA 合作推出 Training Cluster as a Service,让全球研究机构按需申请 GPU 集群、只为训练时长付费,Hugging Face 上 250,000 家组织均可在 hf.co/training-cluster 提交申请。
Mistral AI 发布首个推理模型 Magistral,分为开源的 Magistral Small(24B 参数,Apache 2.0 许可)和企业版 Magistral Medium。
推荐理由:原文给出两个变体的参数规模、AIME2024 分数与开放许可,便于读者评估其与现有推理模型的差距。