跳到正文
  1. Hugging Face Blog62

    Hugging Face 推出 Decision Models 决策模型接口与生态支持

    Hugging Face 介绍决策模型(decision model)概念及其在生态中的落地:模型接收 state 与 questions,直接返回带概率的结构化决策而不生成文本,接口包含 choice、score、noul 三种原语,并给出 confidence 计算方式。

    推荐理由:原文梳理了决策模型的接口设计与三种原语,并说明 Transformers 和 llama.cpp 如何通过同一 API 提供服务。

  1. Hugging Face Blog61

    Hugging Face 与 NVIDIA 教你用 Isaac Lab 训练 Microduck 行走并部署到真机

    Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。

    推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。

  1. Hugging Face Blog62

    Ai2 用 GPU 时间预算重构集群调度器

    Ai2 团队用 GPU 时间预算、层级公平份额分配和时间片合约取代了原有的优先级调度器,把 GPU 时间分配从逐案协商变成透明的预算流程。新系统要求每个请求由预算支撑,配合 7 天回看窗口的公平份额排序和 8 小时最小运行时保护,30 天测试期内团队拿到了 98% 应得 GPU 小时,集群占用率保持 98%,调试任务 p90 等待时间从 2 小时降到 30 秒,需人工介入的维修下降 74%。

    推荐理由:原文完整拆解了从优先级调度到预算制调度的迁移过程与量化收益,可迁移性强。

  2. Hugging Face Blog71

    用 ML Intern 在几天内低成本训练 6 个定制模型的实践

    作者在 HuggingChat 中开启 ML-intern 模式,用提示词驱动其规划、训练、评估并发布模型,几天内做出 6 个模型,总算力成本约 USD 103。

    推荐理由:作者公开了七条完整提示词和预算控制写法,可直接迁移到自己的微调项目中。

  1. Hugging Face Blog61

    Hugging Face 用 LoRA 适配器同步与 KV 前缀路由把 AsyncGRPO 跨 Job 训练提速 3.9 倍

    Hugging Face 博客展示了一个基于 TRL v1.14 AsyncGRPOTrainer 的跨 Hugging Face Jobs 异步 GRPO 训练方案:训练端只训练 LoRA 适配器,通过 Storage Bucket 挂载的共享文件系统把几 MB 的适配器传给 vLLM,无需 NCCL。

    推荐理由:原文给出五轮对照实验的完整指标变化,读者可据此学会用 AsyncGRPO 指标定位训练瓶颈并复现提速路径。

  1. Hugging Face Blog61

    用 TRL 和 OpenEnv 开源复现训练代码模型画水彩的完整配方

    作者用 TRL 和 OpenEnv 开源复现了 Surya Narreddi 训练语言模型写 p5.brush 代码画水彩的配方,参考池数据集、RL 环境、训练脚本和模型全部公开,整条流水线可在 Hugging Face 上一条命令跑通。

    推荐理由:文章完整拆解了用 TRL 和 OpenEnv 复现审美奖励训练的全过程,含三组奖励配比对比与踩坑记录,可直接迁移。

  1. Hugging Face Blog61

    Sentence Transformers v6.0 教你训练与微调多向量嵌入模型

    Hugging Face 官方博客介绍 Sentence Transformers v6.0 新增的 MultiVectorEncoder 模型类型及其完整训练方法,用于 ColBERT 式后期交互检索。

    推荐理由:原文给出可复现的完整训练脚本与关键超参取舍,读者可据此在消费级 GPU 上自建领域多向量检索模型。

  1. Hugging Face Blog62

    Hugging Face 解析 Papers with Code 混合搜索的架构与实践

    Hugging Face 官方博客介绍其为 Papers with Code 复兴构建的混合搜索系统:PostgreSQL 全文检索提供词法基线,pgvector 加语义召回,再用 RRF 融合排序,目前维护超过 110,000 篇来自 arXiv 和 Daily Papers 的论文向量。

    推荐理由:文章拆解了离线批量与在线查询两条路径的分工方式,以及冷启动降级到全文检索的兜底设计,可迁移性强。

  1. Hugging Face Blog74

    Sentence Transformers v6.0 新增 MultiVectorEncoder 支持 ColBERT 式晚期交互检索

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用同一套 API 加载 PyLate、Stanford-NLP ColBERT 和 colpali-engine 检查点,支持 ColBERT 式晚期交互检索。

    推荐理由:原文给出索引体积代价的具体数据和四种向量库的实测耗时,读者可据此评估落地成本。

  1. Hugging Face Blog60

    PyTorch Profiling 系列第三篇:在 profiler 下对比六种注意力实现

    Hugging Face 发布 Profiling in PyTorch 系列第三篇,用 NVIDIA A100-SXM4-80GB 逐一 profile 注意力实现:手写朴素注意力、把 masked_fill 改成 masked_fill_ 的原地版本,以及 SDPA 的 math、efficient、flash、cudnn 四个后端。

    推荐理由:通过同一注意力实现在 profiler 下的六种形态对比,读者能学会先猜测再看 trace 的具体分析方法。

  1. Hugging Face Blog64

    Hugging Face 用开源工具与 GLM-5.2 把 huggingface_hub 发布改为每周一次

    Hugging Face 将 huggingface_hub 的发布节奏从每 4 到 6 周一次改为每周一次,整条流程由单个 GitHub Actions 工作流驱动。

    推荐理由:原文给出可直接 fork 的信任校验闭环,即确定性清单加模型草稿加校验重提示,可迁移到任何需要生成发布说明的项目。

  1. Hugging Face Blog62

    Hugging Face 用本地模型免费完成 OpenClaw 仓库 PR 分类

    Hugging Face 博客介绍了用本地模型 gemma-4-26b-a4b 和 qwen3.6-35b-a3b 搭配 pi agent harness 与受限 reposhell,在 NVIDIA GB10(DGX Spark,128 GB 统一内存)上对 OpenClaw 仓库的 issue 和 PR 做实时分类与 Discord 通知的完整方案。

    推荐理由:给出了本地模型做高吞吐分类的完整配方与实测数据,可迁移到其他实时筛选场景。

  1. Hugging Face Blog62

    Hugging Face 博客:编码 Agent 串联两个 Spaces 搭建 3D 巴黎地标展馆

    Hugging Face 博客展示了作者让一个编码 Agent 通过直接调用两个 Hugging Face Spaces 构建 3D 巴黎地标展馆的全过程,作者全程未手动使用图像生成器或 3D 重建工具。

    推荐理由:通过一个可复现的实例展示了 agents.md 让 Space 变成可调用积木,读者可据此理解多媒体工作流的组装方式。

  1. Hugging Face Blog63

    Hugging Face 解锁 continuous batching 的异步化:GPU 活跃率提升至 99.4%

    Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待,8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%,总耗时 300.6 秒。

    推荐理由:原文用可复现的 profile 数据展示了同步批处理的空闲浪费,并给出基于 CUDA streams 与 events 的具体改造路径。

  1. Hugging Face Blog62

    Hugging Face 用七个维度对比16个开源异步RL训练库

    Hugging Face Blog 发布长文,为 TRL 的异步训练器设计做调研,按七个维度(编排原语、rollout buffer 设计、权重同步协议、staleness 管理、partial rollout 处理、LoRA 支持、分布式训练后端)对比了16个从零围绕异步训练构建的开源库。

    推荐理由:文章用七个维度拆解了16个开源RL库的异步训练设计,读者可据此对比选型并理解各自权衡。

  1. Hugging Face Blog62

    Photoroom PRX Part 3:24 小时、32 张 H200 训练文生图模型的完整配方

    Photoroom 在 PRX 系列第三篇中把此前验证有效的扩散模型技巧组合起来,用 32 张 H200、约 $1500 总算力预算完成 24 小时文生图模型训练,并开源代码到 https://github.com/Photoroom/PRX 。

    推荐理由:原文把像素空间训练、token 路由、感知损失等技巧的组合方式和超参写全,可直接复现其 24 小时训练配方。

  1. Hugging Face Blog70

    Hugging Face 发布 CUDA kernel agent skill,让 Claude 和 Codex 端到端生成可用 kernel

    Hugging Face 发布了一个教编码智能体编写生产级 CUDA kernel 的 agent skill,随 kernels 库提供,可用 kernels skills add cuda-kernels --claude 等命令装入 Claude、Codex、OpenCode 等智能体。

    推荐理由:给出了可直接安装的 skill 命令和两组真实基准数据,读者可据此评估它能否用于自己的 kernel 工作流。