跳到正文
11月13日周五
  1. Hugging Face Blog70

    Hugging Face 发布 LLMON 预览模型 granite-4.1-3b/8b-LLMON-preview

    Hugging Face 与 IBM 发布两个实验性预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,基于 Granite 4.1 base 训练以消费和生成 LLMON(LLM Object Notation)标记文本,并同步开源 LLMON 工具库与示例。

    推荐理由:原文用 OPI 基准对比数据说明指令与数据分离对间接提示词注入的防护效果,同时给出与 JSON 的差异和训练方法,便于评估其可迁移性。

11月12日周四
11月11日周三
  1. Microsoft Research74

    微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent

    微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。

    推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。

11月10日周二
  1. Google DeepMind76

    Google DeepMind 发布 AlphaProof Code,用 AI 代理形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,用它对 Signal 协议的实际代码给出了关键安全性质的数学证明,称这是首次用 AI 在这一深度形式化验证广泛部署的密码协议,也是任何方法首次验证此类协议的实现。

    推荐理由:原文说明了形式化验证从设计层下沉到编译代码层的做法与四周耗时,读者可据此评估 AI 代理在真实密码协议上的验证能力边界。

11月9日周一
11月7日周六
11月6日周五
  1. OpenAI News62

    OpenAI 发布 GPT-6 Cyber 网络安全模型

    OpenAI 发布 GPT-6 Cyber,这是一款用于发现可利用漏洞并开发修复方案的网络安全模型,训练上被约束在授权范围内活动。

    推荐理由:原文点明该模型面向漏洞发现与修复并强调授权范围约束,读者可据此判断其在安全智能体场景的定位与边界。

  2. Microsoft Research62

    Microsoft Research 推出 PDD Kit,用形式化验证约束智能体生成的全栈 Web 应用

    Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。

    推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。

11月5日周四
  1. Google Research47

    Google Research 提出 Agile Deliberation:AI 帮助人类界定主观概念的"灰色地带"

    Google Research 提出 Agile Deliberation 框架,把主观 AI 分类器的构建变成人与 AI 的迭代对话,帮助用户在协作中厘清自身定义,代码与算法已在 GitHub 开源。该框架分概念界定与概念迭代两阶段,用视觉语言模型挖掘语义边界图像,经 18 场、每场 1.5 小时的真人实验验证,显著降低用户疲劳与焦虑,产出更一致、性能优于标准基线的模型。

11月4日周三
  1. Hugging Face Blog60

    Hugging Face 开源 CWE-bench v2:100 个任务覆盖 91 种 CWE

    Hugging Face 与 Collinear AI 开源 CWE-bench v2,公开 100 个任务,覆盖 91 种 CWE,用于测试前沿模型发现并修复安全漏洞且不破坏现有功能的能力,评分完全程序化、可复现。

    推荐理由:公开了 100 个任务的评分口径与成本数据,读者可据此判断模型在真实漏洞修复上的水平与代价。

11月3日周二
10月31日周六
10月30日周五
10月29日周四
10月28日周三
10月27日周二
10月24日周六
10月23日周五