微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
公司与模型
微软的 Copilot 系列产品、Azure AI 云服务,以及与 OpenAI 的合作动向。
19 条精选近 30 天 6 条共收录 88 条
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。
推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。
微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。
推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。
微软称其多智能体诊断系统 Diagnostic Orchestrator 在诊断准确率上最高可达人类医生的四倍,相关研究发表于 Science。
推荐理由:原文给出了基准构成、对照组数据和临床验证路径,读者可据此判断多智能体诊断系统与真实医疗落地之间的差距。
Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差不超过一个与维度无关的普适常数。
推荐理由:原文对比了无人引导的同预算尝试与人机协作的差异,可迁移地说明研究者判断在 AI 辅助证明中的作用。
Microsoft Research 发布零知识虚拟机 Magnetar,可证明 Rust、Go 或 C 编写并按 RISC-V 架构编译的程序执行,在笔记本上每秒证明 7.2 至 8.7 million 条处理器指令,在 15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍,证明验证约 12 毫秒。
推荐理由:原文梳理了零知识证明普及的三大障碍及 Magnetar 分别如何应对,便于读者判断其技术路线取舍。
NVIDIA 与 Microsoft 在旧金山 Windows AI and Surface 活动上宣布共同为 Windows PC 打造 AI 智能体的软硬件,RTX Spark 笔记本今日开启预售、10 月 16 日上市,紧凑型台式机 11 月开售。
推荐理由:原文给出具体硬件规格与开放购买时间,读者可据此判断本地运行大模型的可行性。
Microsoft Research Asia 提出 Harnessed Agentic RL 训练范式并开源 Agent Lightning v1.0,让部署所用的 agent harness 直接参与强化学习。
推荐理由:原文给出了训练范式、系统架构与实测数据,读者可据此评估它如何让部署用的 agent harness 直接参与 RL 训练。
Microsoft 与 Hugging Face 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench 基准,按智能体留下的后端终态与副作用而非其自述来打分,覆盖 507 个有状态业务工作流,每个任务独立运行 20 次。
推荐理由:文章用可执行的状态检查揭示工具调用正确不等于结果正确,并给出可复现的评测环境与复现步骤。
OpenAI 在旧金山 Dev Day 开发者大会上发布多项面向办公场景的 ChatGPT 新功能,包括共享工作区 Space、文档工具 Pages 和协作幻灯片 collaborative slides。
推荐理由:原文点出 OpenAI 与 Microsoft 在办公软件上的双向竞争,读者可据此理解这次发布在行业格局中的位置。
微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由生物世界模型和连接模型、科学工具、文献与实验的交互式 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,从缩小搜索空间到选出候选化合物仅用一个周末,湿实验验证中排名最高的化合物产生了最大的预期细胞状态转变。
推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环,读者可了解 AI 参与药物发现的具体流程与验证结果。
微软研究院对移动机器人操作负载的系统性测量显示,把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务表现并延长续航。
推荐理由:微软对机器人推理负载的系统性测量显示,把推理从机载 GPU 卸载到边缘或云端可提升任务成功率与续航,并给出可复用的 Kubernetes 工具链。
GitHub 工程师 Stephen Toub 复盘用 GitHub Copilot 把 Copilot agent runtime 从 TypeScript 重写为超过 80 万行生产级 Rust 的过程,代码主要由 AI 智能体编写,横跨 128 个 PR 并增量上线,性能提升数个数量级。
推荐理由:GitHub 工程师复盘用 Copilot 把运行时从 TypeScript 迁到 Rust 的全过程,含多智能体协作与提示缓存数据。
Microsoft Research 开源智能体框架 Orchard,核心是可复用的 Kubernetes 环境服务 Orchard Env,支持在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 内直接训练智能体,并同步发布训练数据与评测方法。
推荐理由:原文给出三个领域的训练配方与具体分数,读者可据此评估小参数开源模型在真实任务上的能力边界。
Microsoft Research 发布 Echoverse,一套面向计算机使用智能体的深度可演化训练环境,包含十个深度领域世界和两个能力世界,并开源其中四个世界的代码、数据与数据库接地验证器。
推荐理由:原文用对照实验说明深度与多样性比环境数量更能带来迁移,可为构建计算机使用智能体训练环境提供方法参考。
GPT-5.6 现已成为 Microsoft 365 Copilot 的首选模型,为 Word、Excel、PowerPoint、Chat 和 Cowork 提供更强的 AI 能力,以实现更快、更高质量的工作。
OpenAI 与 Microsoft 宣布达成一项修订后的协议,简化双方合作关系、提供长期明确性,并支持持续的大规模 AI 创新。
OpenAI 已同意将 GPT-3 技术授权给 Microsoft,供其用于自家产品和服务。
Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛经济收益的人工通用智能(AGI)。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台,联合开发新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云提供商。
推荐理由:官方公告点明投资金额与独家云合作方式,可据此理解早期AGI路线中算力绑定的战略选择。