微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。
推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。
微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。
推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。
微软称其多智能体诊断系统 Diagnostic Orchestrator 在诊断准确率上最高可达人类医生的四倍,相关研究发表于 Science。
推荐理由:原文给出了基准构成、对照组数据和临床验证路径,读者可据此判断多智能体诊断系统与真实医疗落地之间的差距。
Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差不超过一个与维度无关的普适常数。
推荐理由:原文对比了无人引导的同预算尝试与人机协作的差异,可迁移地说明研究者判断在 AI 辅助证明中的作用。
Microsoft Research 发布零知识虚拟机 Magnetar,可证明 Rust、Go 或 C 编写并按 RISC-V 架构编译的程序执行,在笔记本上每秒证明 7.2 至 8.7 million 条处理器指令,在 15 个基准程序上平均比现有最快 zkVM 快 10 至 39 倍,证明验证约 12 毫秒。
推荐理由:原文梳理了零知识证明普及的三大障碍及 Magnetar 分别如何应对,便于读者判断其技术路线取舍。
Microsoft 与 Hugging Face 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench 基准,按智能体留下的后端终态与副作用而非其自述来打分,覆盖 507 个有状态业务工作流,每个任务独立运行 20 次。
推荐理由:文章用可执行的状态检查揭示工具调用正确不等于结果正确,并给出可复现的评测环境与复现步骤。
微软研究院对移动机器人操作负载的系统性测量显示,把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务表现并延长续航。
推荐理由:微软对机器人推理负载的系统性测量显示,把推理从机载 GPU 卸载到边缘或云端可提升任务成功率与续航,并给出可复用的 Kubernetes 工具链。