跳到正文

#教程/实践

今日 4 条
7月10日周五
  1. Hugging Face Blog60

    PyTorch Profiling 系列第三篇:在 profiler 下对比六种注意力实现

    Hugging Face 发布 Profiling in PyTorch 系列第三篇,用 NVIDIA A100-SXM4-80GB 逐一 profile 注意力实现:手写朴素注意力、把 masked_fill 改成 masked_fill_ 的原地版本,以及 SDPA 的 math、efficient、flash、cudnn 四个后端。

    推荐理由:通过同一注意力实现在 profiler 下的六种形态对比,读者能学会先猜测再看 trace 的具体分析方法。

7月6日周一
6月8日周一
  1. Google DeepMind64

    Google DeepMind 公布塞拉利昂 AI 辅助数学学习预注册试验结果

    Google DeepMind 公布了在塞拉利昂开展的 Guided Learning 预注册试验结果,学生数学成绩相对对照组提升 +0.258 个标准差,约相当于八周内 1.2 至 1.7 年的学习进度;教师将 Gemini 纳入约一半课程(目标 12 小时)的班级提升更大,约 1.8 至 2.5 年。

    推荐理由:原文给出了预注册试验的量化结果与开放的教师培训材料,读者可据此评估 AI 辅助教学的实际效果与可复用做法。

5月16日周六
  1. Google DeepMind47

    Google DeepMind Co-Scientist 加速肝病机制发现

    Google DeepMind 的 Co-Scientist 帮助爱丁堡大学生物工程师 Filippo Menolascina 团队缩小 MASH 联合疗法的搜索空间,并针对 resmetirom 只对少数合格患者起效的问题提出假设,将 NLRP3 inflammasome 指认为连接炎症与代谢的分子桥梁,该假设随后经实验验证,有望为靶向双联疗法铺路。

3月11日周三
1月22日周四
  1. Mistral AI61

    Mistral AI 排查 vLLM 分离式部署内存泄漏:UCX mmap hook 是元凶

    Mistral AI 在 Engineering Deep Dive 系列首篇文章中复盘了排查 vLLM 内存泄漏的过程:在 Mistral Medium 3.1 配合 Prefill/Decode 分离式部署且启用 graph compilation 时,系统内存以 400 MB/分钟线性增长。

    推荐理由:逐层递进的排查路径和每种工具的失效原因,对定位同类底层内存问题有直接可迁移的方法价值。

8月1日周五
4月9日周三
3月4日周二