跳到正文
  1. Hugging Face Blog62

    Hugging Face 推出 Decision Models 决策模型接口与生态支持

    Hugging Face 介绍决策模型(decision model)概念及其在生态中的落地:模型接收 state 与 questions,直接返回带概率的结构化决策而不生成文本,接口包含 choice、score、noul 三种原语,并给出 confidence 计算方式。

    推荐理由:原文梳理了决策模型的接口设计与三种原语,并说明 Transformers 和 llama.cpp 如何通过同一 API 提供服务。

  1. AWS Machine Learning Blog62

    Amazon SageMaker AI 多轮强化学习实战指南:Wordle 上把 gpt-oss-20b 解题率从 61% 提到 84%

    AWS 官方教程演示如何在 Amazon SageMaker AI 上用多轮强化学习(MTRL)训练托管在 Amazon Bedrock AgentCore 上的智能体,以 Wordle 为例走通部署、数据准备、训练、MLflow 监控与评测全流程。

    推荐理由:原文完整给出多轮强化学习的端到端流程、成本拆解和踩坑记录,可直接迁移到自有多步任务的训练设计。

  1. AWS Machine Learning Blog62

    在 Amazon Bedrock 上用 Grok 4.7 构建长程智能体并评测推理档位

    AWS 博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并构建一个工具调用智能体,在三个需要搜索而非查表的任务上以四个 reasoning effort 档位各跑 6 次共 72 次,答对 67 次:xhigh 全对 18/18,low 答对 15/18 但输出 token 约为 xhigh 的八分之一。

    推荐理由:原文给出可复现的评测设计与四档推理档位的 token 与正确率对照,读者可据此在自己任务上量测成本质量权衡。

  1. Hugging Face Blog61

    用 TRL 和 OpenEnv 开源复现训练代码模型画水彩的完整配方

    作者用 TRL 和 OpenEnv 开源复现了 Surya Narreddi 训练语言模型写 p5.brush 代码画水彩的配方,参考池数据集、RL 环境、训练脚本和模型全部公开,整条流水线可在 Hugging Face 上一条命令跑通。

    推荐理由:文章完整拆解了用 TRL 和 OpenEnv 复现审美奖励训练的全过程,含三组奖励配比对比与踩坑记录,可直接迁移。

  1. Hugging Face Blog63

    Hugging Face 解锁 continuous batching 的异步化:GPU 活跃率提升至 99.4%

    Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待,8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%,总耗时 300.6 秒。

    推荐理由:原文用可复现的 profile 数据展示了同步批处理的空闲浪费,并给出基于 CUDA streams 与 events 的具体改造路径。

  1. Hugging Face Blog61

    Hugging Face Open-R1 项目一周进展:复现评测、GRPO 训练与合成数据生成

    Hugging Face 发布 Open-R1 项目首周更新,称已在 MATH-500 Benchmark 上基本复现 DeepSeek-R1 蒸馏模型的报告分数,并上线了公开评测 leaderboard。

    推荐理由:汇总了复现进度、训练管线细节和社区数据集,读者可据此评估开源复现 DeepSeek-R1 的可行性与路径。

  1. Hugging Face Blog61

    用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment 教程

    Hugging Face 博客用 GRPO 和 Countdown Game 在 4x NVIDIA H100 上复现 DeepSeek R1 的 aha moment,训练 Qwen2.5-3B-Instruct 学会自我验证与搜索。

    推荐理由:教程给出可复现的 GRPO 训练配置与超参调整过程,读者可据此在自有硬件上复现类似实验。

  1. Hugging Face Blog61

    NuminaMath 7B TIR 赢得首届 AIMO Progress Prize 的技术方案

    Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize,在私有测试集 50 题中解出 29 题。

    推荐理由:详细拆解了从数据构造到解码算法的完整配方,可迁移方法多。

  1. Hugging Face Blog62

    Hugging Face 博客详解 Mixture of Experts(MoE)

    Hugging Face 官方博客发布 Mixture of Experts Explained,系统讲解 MoE 的组成、稀疏性、负载均衡、Switch Transformers、微调挑战与推理部署技巧。

    推荐理由:系统梳理了 MoE 的原理、训练与推理权衡,读者可据此判断何时选用稀疏模型。

  1. Hugging Face Blog62

    Hugging Face 教程:生产环境优化 LLM 的三类技术与实测数据

    Hugging Face 官方博客给出生产环境优化 LLM 的三类技术并附实测:低精度量化、Flash Attention 与面向长文本的架构改进。

    推荐理由:原文用同一模型的实测显存与耗时数据,把量化、Flash Attention 和 KV cache 优化的取舍讲得可直接迁移。

  1. Hugging Face Blog64

    Hugging Face Transformers 推出 assisted generation 低延迟解码方法

    Hugging Face 在 🤗 Transformers 的 .generate() 中推出新解码方法 assisted generation,用小模型生成候选 token、再由目标模型一次前向验证,在普通硬件上最高可将延迟降低 10x。

    推荐理由:原文拆解了延迟瓶颈并给出可复现的加速数字,读者可据此判断该方法是否适配自己的部署场景。

  1. Hugging Face Blog60

    Hugging Face 解读让对话智能体更有用的关键技术

    Hugging Face 博客梳理了 ChatGPT 背后的 RLHF、IFT、SFT、CoT、红队测试等技术,对比了 LaMDA、BlenderBot 3、Sparrow、InstructGPT、Assistant 在公开访问、训练数据、模型架构和评测维度上的差异。

    推荐理由:通过对比表和分类梳理,读者可快速理解 IFT、SFT、RLHF、CoT 各自作用与数据需求差异。

  1. Hugging Face Blog60

    Hugging Face 图解 RLHF:从人类反馈强化学习的三步训练流程

    Hugging Face 博客系统图解了 RLHF 的三步流程:预训练语言模型、用人类排序数据训练奖励模型、再用 PPO 等强化学习算法微调语言模型。文中说明奖励模型将文本映射为标量奖励,奖励函数由偏好分数减去与初始模型的 KL 散度惩罚构成,以防止模型输出偏离初始模型的乱码。

    推荐理由:文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步并给出开源工具清单,便于读者建立完整流程认知。

已经到底了