跳到正文

内容类型

论文研究 最新动态

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。

69 条精选近 30 天 27 条共收录 364 条

更新

论文研究的精选

今天11月14日周六第 1–20 条
  1. The Decoder78

    前 OpenAI 研究员称在六个中国 AI 模型中发现 Nvidia Blackwell 芯片指纹

    前 OpenAI 研究员 Will DePue 称,他从已发布的模型权重中找到了 Nvidia Blackwell 芯片的特征指纹,涉及 DeepSeek-V4-Flash、DeepSeek-V4-Pro、MiniMax-M3、Kimi K3、Kimi K3.1-Pro 和蚂蚁 Ling-3.1-flash 六个自 2026 年 4 月以来发布的中国模型。

    推荐理由:原文梳理了指纹检测方法的原理与边界,读者可据此理解这类证据能说明什么、不能说明什么。

11月11日周三
  1. Google DeepMind74

    Google DeepMind 发布 DNA 序列模型 AlphaGenome 2

    Google DeepMind 宣布发布下一代 DNA 序列模型 AlphaGenome 2,可预测 DNA 序列及其变异对特定人类细胞类型的影响。该模型改为条件化架构,一次针对一个组织、细胞类型或状态进行预测,训练数据涵盖 68 个组织、超过 1.07 亿个单细胞图谱。

    推荐理由:原文给出条件化架构改造与 TenK10K 上的召回对比,读者可据此判断细胞类型特异性预测相比上一代的实际提升幅度。

  2. Microsoft Research74

    微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent

    微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。

    推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。

11月7日周六
  1. The Verge · AI81

    METR报告揭示Anthropic用AI加速研发引发安全争议

    AI安全研究组织METR发布报告,基于在Anthropic内部为期11周的调查发现,Anthropic的模型改进速度约为一年前的两倍,且截至10月多数加速“来自AI”本身而非算力扩张。

    推荐理由:报道梳理了METR对Anthropic的调查发现与各方反应,可帮助读者理解AI加速自身研发的证据与透明度争议。

11月6日周五
  1. Hugging Face Blog63

    Hugging Face 推出 ToyBlocks 受控仿真框架用于机器人学习与评测

    Hugging Face 与 AllenAI 推出 FoundationWorlds 框架及其首个基础世界 ToyBlocks,一个围绕机械臂与桌面积木的开源仿真环境,可自动生成任务与演示数据,无需人工遥操作。

    推荐理由:通过受控仿真环境把数据生成、训练与评测打通,读者可据此理解机器人泛化与失败归因的可复现研究路径。

  2. Microsoft Research62

    Microsoft Research 推出 PDD Kit,用形式化验证约束智能体生成的全栈 Web 应用

    Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。

    推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。

11月5日周四
11月4日周三
  1. Hugging Face Blog60

    Hugging Face 开源 CWE-bench v2:100 个任务覆盖 91 种 CWE

    Hugging Face 与 Collinear AI 开源 CWE-bench v2,公开 100 个任务,覆盖 91 种 CWE,用于测试前沿模型发现并修复安全漏洞且不破坏现有功能的能力,评分完全程序化、可复现。

    推荐理由:公开了 100 个任务的评分口径与成本数据,读者可据此判断模型在真实漏洞修复上的水平与代价。

  2. Hugging Face Blog62

    Hugging Face 与 IBM Research 发布 Palette:用合成数据训练 20B 模型按设计语言生成幻灯片

    Hugging Face Blog 发布 IBM Research 的 Palette:微调一个 20B 开源权重模型,用合成数据学习 IBM Design Language 并通过校验 harness 生成幻灯片,在 PresentBench 三个领域中两个排名第一、三领域均分第二(59.7 分,落后 NotebookLM 的 60.8 分 1.1 分)。

    推荐理由:原文拆解了用合成数据与校验器训练小模型复现设计语言的完整方法,可迁移到其他输出可被代码校验的任务。

  3. Hugging Face Blog62

    IBM 用同一模型对比 CUGA、Hermes 与 Deep Agents 三个 Agent harness

    IBM Research 用同一个开源模型 GLM-5.3-flash 在 AppWorld 的 90 个任务上对比 CUGA、Hermes 和 Deep Agents 三个 harness,任务完成率分别为 81.1%、46.7% 和 30.0%,说明 harness 选择对结果影响很大。

    推荐理由:同一模型换 harness 完成率从 30% 到 81%,这组对照数据能帮读者理解选型应匹配工作负载而非只看模型。

10月30日周五
  1. The Decoder78

    Epoch AI 研究显示 GLM 5.3 在 48 小时内自主构建完整 Firefox 漏洞利用链

    Epoch AI 研究显示,开源模型 GLM 5.3 在无人工输入的情况下,利用补丁公开与送达之间的窗口期,对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建了完整漏洞利用链,每次成功攻击的 API 费用约 $1,000,最快一次耗时 12 小时。

    推荐理由:研究量化了补丁公开到送达之间的窗口期风险,读者可据此理解开源软件更新节奏的安全代价。

10月28日周三
  1. Hugging Face Blog76

    NVIDIA 发布 Nemotron 3.5 Transcribe 开源语音模型与 Granary v2 数据管线

    NVIDIA 发布开源权重语音模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到单一 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人归属,可处理最长一小时录音并标注最多 8 位说话人,现已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出榜单成绩与微调配方,读者可据此判断该模型在多语种转写与说话人分离上的可用性。

10月27日周二
10月24日周六
10月23日周五
  1. Hugging Face Blog61

    微软与 Hugging Face 开源 ThinkingBox-Training:用数据库终态检查作为 RL 奖励后训练智能体

    微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。

    推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。

10月22日周四
  1. Hugging Face Blog74

    NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练直接在数据库上预测

    NVIDIA 发布 Kumo Relational,一个预训练的关系型基础模型,可直接在企业数据库上做预测,无需任务专属训练、特征工程或表展平,单次前向传播即可给出流失、需求、欺诈等预测结果。

    推荐理由:原文给出了基准对比与部署入口,读者可据此评估它能否替代现有 XGBoost 生产管线。