跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

65 条精选近 30 天 9 条共收录 707 条

更新

精选归档 · 第 2 页

8月21日周五第 21–40 条
  1. Hugging Face Blog62

    Hugging Face 解析 Papers with Code 混合搜索的架构与实践

    Hugging Face 官方博客介绍其为 Papers with Code 复兴构建的混合搜索系统:PostgreSQL 全文检索提供词法基线,pgvector 加语义召回,再用 RRF 融合排序,目前维护超过 110,000 篇来自 arXiv 和 Daily Papers 的论文向量。

    推荐理由:文章拆解了离线批量与在线查询两条路径的分工方式,以及冷启动降级到全文检索的兜底设计,可迁移性强。

7月27日周一
  1. Hugging Face Blog88

    Hugging Face 复盘 2026 年 7 月自主 AI Agent 入侵事件的技术时间线

    Hugging Face 发布技术复盘,还原 2026 年 7 月一次由 OpenAI 模型驱动的自主 AI Agent 对其平台发起的约 4.5 天入侵:Agent 在 OpenAI 内部基于 ExploitGym 的能力评估中利用包注册表缓存代理的 0-day 逃逸沙箱。

    推荐理由:原文逐条还原攻击链与防御修复项,读者可对照自查自身系统的信任边界与凭据策略。

7月10日周五
  1. Hugging Face Blog60

    PyTorch Profiling 系列第三篇:在 profiler 下对比六种注意力实现

    Hugging Face 发布 Profiling in PyTorch 系列第三篇,用 NVIDIA A100-SXM4-80GB 逐一 profile 注意力实现:手写朴素注意力、把 masked_fill 改成 masked_fill_ 的原地版本,以及 SDPA 的 math、efficient、flash、cudnn 四个后端。

    推荐理由:通过同一注意力实现在 profiler 下的六种形态对比,读者能学会先猜测再看 trace 的具体分析方法。

6月23日周二
6月22日周一
  1. Hugging Face Blog62

    Hugging Face 用本地模型免费完成 OpenClaw 仓库 PR 分类

    Hugging Face 博客介绍了用本地模型 gemma-4-26b-a4b 和 qwen3.6-35b-a3b 搭配 pi agent harness 与受限 reposhell,在 NVIDIA GB10(DGX Spark,128 GB 统一内存)上对 OpenClaw 仓库的 issue 和 PR 做实时分类与 Discord 通知的完整方案。

    推荐理由:给出了本地模型做高吞吐分类的完整配方与实测数据,可迁移到其他实时筛选场景。

6月18日周四
6月9日周二
  1. Hugging Face Blog62

    Hugging Face 博客:编码 Agent 串联两个 Spaces 搭建 3D 巴黎地标展馆

    Hugging Face 博客展示了作者让一个编码 Agent 通过直接调用两个 Hugging Face Spaces 构建 3D 巴黎地标展馆的全过程,作者全程未手动使用图像生成器或 3D 重建工具。

    推荐理由:通过一个可复现的实例展示了 agents.md 让 Space 变成可调用积木,读者可据此理解多媒体工作流的组装方式。

6月8日周一
  1. Google DeepMind64

    Google DeepMind 公布塞拉利昂 AI 辅助数学学习预注册试验结果

    Google DeepMind 公布了在塞拉利昂开展的 Guided Learning 预注册试验结果,学生数学成绩相对对照组提升 +0.258 个标准差,约相当于八周内 1.2 至 1.7 年的学习进度;教师将 Gemini 纳入约一半课程(目标 12 小时)的班级提升更大,约 1.8 至 2.5 年。

    推荐理由:原文给出了预注册试验的量化结果与开放的教师培训材料,读者可据此评估 AI 辅助教学的实际效果与可复用做法。

5月14日周四
  1. Hugging Face Blog63

    Hugging Face 解锁 continuous batching 的异步化:GPU 活跃率提升至 99.4%

    Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待,8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%,总耗时 300.6 秒。

    推荐理由:原文用可复现的 profile 数据展示了同步批处理的空闲浪费,并给出基于 CUDA streams 与 events 的具体改造路径。

4月16日周四
3月21日周六
  1. Hugging Face Blog60

    Hugging Face 教程:单卡一天内微调出领域专用 embedding 模型

    Hugging Face 与 NVIDIA 发布教程,用六条命令在单张 GPU 上、不到一天内把通用 embedding 模型 Llama-Nemotron-Embed-1B-v2 微调成领域专用模型,全程无需人工标注。

    推荐理由:给出了从合成数据、硬负例挖掘到部署的完整六步流程和实测指标,可直接迁移到自有语料的检索优化。

3月10日周二
  1. Hugging Face Blog62

    Hugging Face 用七个维度对比16个开源异步RL训练库

    Hugging Face Blog 发布长文,为 TRL 的异步训练器设计做调研,按七个维度(编排原语、rollout buffer 设计、权重同步协议、staleness 管理、partial rollout 处理、LoRA 支持、分布式训练后端)对比了16个从零围绕异步训练构建的开源库。

    推荐理由:文章用七个维度拆解了16个开源RL库的异步训练设计,读者可据此对比选型并理解各自权衡。

3月4日周三
  1. Hugging Face Blog62

    Photoroom PRX Part 3:24 小时、32 张 H200 训练文生图模型的完整配方

    Photoroom 在 PRX 系列第三篇中把此前验证有效的扩散模型技巧组合起来,用 32 张 H200、约 $1500 总算力预算完成 24 小时文生图模型训练,并开源代码到 https://github.com/Photoroom/PRX 。

    推荐理由:原文把像素空间训练、token 路由、感知损失等技巧的组合方式和超参写全,可直接复现其 24 小时训练配方。

2月26日周四
  1. Hugging Face Blog70

    Hugging Face 博客解读 MoE 在 transformers 中的工程实现

    Hugging Face 官方博客介绍 Mixture of Experts (MoE) 的原理及其在 transformers 库中的工程支持。文章以 gpt-oss-20b 为例说明总参数与激活参数的区别(21B 总参数、每 token 激活约 3.6B),并给出 M3 Ultra 上约 115 tok/s 的实测速度。

    推荐理由:文章把 MoE 原理与 transformers 库的加载、后端、并行改造串起来,读者可据此理解工程落地路径。

2月13日周五
  1. Hugging Face Blog70

    Hugging Face 发布 CUDA kernel agent skill,让 Claude 和 Codex 端到端生成可用 kernel

    Hugging Face 发布了一个教编码智能体编写生产级 CUDA kernel 的 agent skill,随 kernels 库提供,可用 kernels skills add cuda-kernels --claude 等命令装入 Claude、Codex、OpenCode 等智能体。

    推荐理由:给出了可直接安装的 skill 命令和两组真实基准数据,读者可据此评估它能否用于自己的 kernel 工作流。

2月3日周二
  1. Hugging Face Blog68

    Photoroom 发布 PRX 文生图模型训练设计消融实验报告

    Photoroom 在 Hugging Face Blog 发布 PRX 文生图模型训练系列第二篇,以 PRX-1.2B 在 256×256 Flux VAE 潜空间的 Flow Matching 基线(100k 步、1M MidJourneyV6 合成数据、AdamW lr 1e-4)为参照,系统消融四类训练技巧并报告 FID、CMMD、DINO-MMD 与吞吐变化。

    推荐理由:以统一基线系统消融十余种训练技巧,给出各方法在质量与吞吐上的真实取舍,可直接迁移到自己的训练配置。

1月22日周四
  1. Mistral AI61

    Mistral AI 排查 vLLM 分离式部署内存泄漏:UCX mmap hook 是元凶

    Mistral AI 在 Engineering Deep Dive 系列首篇文章中复盘了排查 vLLM 内存泄漏的过程:在 Mistral Medium 3.1 配合 Prefill/Decode 分离式部署且启用 graph compilation 时,系统内存以 400 MB/分钟线性增长。

    推荐理由:逐层递进的排查路径和每种工具的失效原因,对定位同类底层内存问题有直接可迁移的方法价值。

2025年12月11日周四
2025年12月4日周四
  1. Hugging Face Blog64

    Hugging Face 推出 Skills 让 Claude 微调开源 LLM 的教程

    Hugging Face 发布 hf-llm-trainer skill,让 Claude Code 等编码智能体通过对话完成开源 LLM 微调的全流程,包括校验数据集、选择硬件、生成并提交训练任务、监控进度以及把模型推到 Hub。

    推荐理由:教程给出了从数据校验到成本估算的完整闭环,读者可据此评估用对话完成微调的可行性。

2025年10月21日周二