跳到正文
6月30日周二
6月26日周五
6月25日周四
6月24日周三
6月23日周二
6月13日周六
6月11日周四
6月9日周二
6月2日周二
  1. Hugging Face Blog74

    Hugging Face 发布 Holo3.1 系列计算机使用智能体模型

    Hugging Face 发布 Holo3.1 系列计算机使用智能体模型,基于 Qwen 家族,提供 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF、NVFP4 量化权重以支持本地推理。

    推荐理由:给出了各尺寸在移动与桌面基准上的具体提升和量化后的吞吐数据,可据此评估本地部署的可行性。

6月1日周一
5月29日周五
5月28日周四
5月27日周三
5月22日周五
5月18日周一
5月14日周四
  1. Hugging Face Blog63

    Hugging Face 解锁 continuous batching 的异步化:GPU 活跃率提升至 99.4%

    Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待,8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%,总耗时 300.6 秒。

    推荐理由:原文用可复现的 profile 数据展示了同步批处理的空闲浪费,并给出基于 CUDA streams 与 events 的具体改造路径。

5月13日周三
5月12日周二
  1. Hugging Face Blog45

    AWS 基础模型训练与推理的构建模块

    Hugging Face 发布系列文章首篇,分析 AWS 基础设施与开源软件栈在基础模型预训练、后训练和推理全生命周期中的集成方式。AWS 提供 P5(H100/H200)、P6(B200/B300)等 EC2 实例,覆盖计算、网络、存储三层构建模块。文章面向 ML 工程师与研究者,为理解系统瓶颈和扩展特性提供技术基础。

5月11日周一
  1. OpenAI News10

    企业如何规模化落地 AI

    OpenAI 阐述企业如何把 AI 从早期试验推进到持续产生复利式影响,路径涵盖信任、治理、工作流设计与规模化质量把控四个环节。文章属方法论与分析类内容,未给出具体模型版本、benchmark 分数或价格数据。

5月8日周五
5月7日周四
5月5日周二
5月4日周一
4月29日周三
4月27日周一
4月22日周三
4月20日周一
  1. Berkeley AI Research32

    GRASP:面向世界模型的梯度规划器,让长时程规划更稳健

    伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让基于学习动力学(世界模型)的长时程规划变得实用。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型梯度脆弱等问题。

4月15日周三
4月1日周三
3月31日周二
3月27日周五
3月11日周三
3月10日周二
  1. Hugging Face Blog62

    Hugging Face Hub 推出 Storage Buckets 对象存储功能

    Hugging Face 在 Hub 上推出 Storage Buckets,一种可浏览、可用 Python 脚本或 hf CLI 管理的可变 S3 式对象存储,用于存放 checkpoint、优化器状态、处理后的数据分片和日志等中间产物。

    推荐理由:原文说明了它与 Git 存储的分工边界以及 Xet 去重带来的成本收益,读者可据此判断是否迁移现有工作流。

  2. Hugging Face Blog62

    Hugging Face 用七个维度对比16个开源异步RL训练库

    Hugging Face Blog 发布长文,为 TRL 的异步训练器设计做调研,按七个维度(编排原语、rollout buffer 设计、权重同步协议、staleness 管理、partial rollout 处理、LoRA 支持、分布式训练后端)对比了16个从零围绕异步训练构建的开源库。

    推荐理由:文章用七个维度拆解了16个开源RL库的异步训练设计,读者可据此对比选型并理解各自权衡。

3月9日周一
3月5日周四