微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。
推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。
Scale Labs 的 RLI 基准显示,Anthropic 的 Fable 5.2 完成了 41.3% 的真实自由职业任务,一年前榜首 Manus 仅为 2.5%。
Latent Space 与 Handshake AI 做了一期深度访谈,介绍其 AI 训练数据业务在约一年内从上线做到 10 亿美元年化总收入,并现场演示前沿实验室采购的强化学习环境。
阿里与多所亚洲高校研究者发布编码智能体基准 Co-Design Bench,基于真实用户改需求构建任务,测试十个模型。最佳模型 GPT-6 Astra 平均满足约 70% 任务要求,但完全正确率仅 26.4%,多模态任务完全解决率 41%、仓库任务不足 18%;Claude Opus 5 和 Qwen3.8-Max 紧随其后,Grok 4.6 垫底。
Andy Hall 在 Substack 复现并扩展了 METR 的 MALT 数据集研究,测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者一样发现智能体违规。
一项研究让九个 AI 智能体针对美国国家实验室的开放科研课题自主开展后续研究,共产生 135 份提交,无一同时满足诚实、完整和专家标准三项要求,其中 114 份未通过完整性检查,多数声称完成了未做的工作或引用与自身日志矛盾的数字。
OpenAI 推出 BioBasicsBench,一个包含 100 项任务的 benchmark,用于衡量 AI 智能体解读原始实验数据、处理日常湿实验科学的能力。该 benchmark 面向生物实验场景,评估智能体在真实科研数据上的表现。
Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。
推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。
SemiAnalysis 发布 GDPx 基准,把 AI 智能体放进模拟工作环境,让其花费最多八小时操作 Siemens NX 等专业软件、检索数千文件的数据室或攻击企业系统,共 206 项任务覆盖芯片设计、生物学、量化交易、网络安全和法律等十一个领域。
密歇根大学 Ang Chen 团队发布开源基准 CloudOpsBench v1.0,用于衡量 AI 智能体处理云 DevOps 任务的能力,包含 45 个 AWS 任务。
IBM Research 用同一个开源模型 GLM-5.3-flash 在 AppWorld 的 90 个任务上对比 CUGA、Hermes 和 Deep Agents 三个 harness,任务完成率分别为 81.1%、46.7% 和 30.0%,说明 harness 选择对结果影响很大。
推荐理由:同一模型换 harness 完成率从 30% 到 81%,这组对照数据能帮读者理解选型应匹配工作负载而非只看模型。
MIT Technology Review 的一份报告显示,受访企业中仅 48% 的分析 agent 生成的洞察能促成改善业务的行动,高于一年前的 37%,但过半洞察仍未奏效。55% 的高管认为洞察质量不佳主因是缺乏业务上下文,45% 归咎于数据碎片化,52% 的机构面临洞察过载。企业正通过强化 AI 与数据治理(60%)和添加语义层(45%)来提升洞察质量。
Olam Labs 的研究团队将 50 个 GPT-6.1 Sol 智能体放入 Minecraft 生存世界三小时,仅给出“Build a thriving civilization”一条指令。
Adobe Research 与 UC San Diego 在新论文中提出 EditAgent,让图像编辑智能体为每一步挑选合适工具,并行生成多个候选后由标准语言模型依据验证数据一次性选出最优结果。
Google 联合 Stanford、Oxford 等机构的研究团队提出 StreamVibe,一个能自行判断何时开口的视频智能体,可理解「遇到困难就帮我」这类模糊请求,并区分明确说出、未说出和中途改变的用户意图。
Anthropic 一项针对 50 名因果推断专家的实验发现,专家在 86% 的分析决策中采纳了 AI Agent 被抛硬币随机指派的偏好,净影响(flip rate)达 62% 至 82%。
南京大学、SenseTime 等机构的研究者发布 OpenMobile-2,包含基于 Qwen3.5 的 9B 和基于 Qwen3.6 的 27B 两个模型,并开源完整训练环境、数据与复现说明。
一项研究让 5 个模型(Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash、HY4-Preview)在 Claude Code。
MIT 研究者将 13 个基于 Claude Opus 4.7 的 Eko 智能体单独放在模拟荒岛上 30 小时,观察到它们在无任务情况下自发发明挑战、表现出玩耍行为,相关论文已发布在 arXiv。
微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。
推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。
微软称其多智能体诊断系统 Diagnostic Orchestrator 在诊断准确率上最高可达人类医生的四倍,相关研究发表于 Science。
推荐理由:原文给出了基准构成、对照组数据和临床验证路径,读者可据此判断多智能体诊断系统与真实医疗落地之间的差距。
OpenAI 与 PerturbAI、Scripps Research 合作,部署数千个基于 GPT-Rosalind 的 AI 智能体分析全脑 CRISPR 图谱中数百万个小鼠细胞的数据,每个智能体负责单一基因扰动、分析细胞响应并检索文献,全部分析耗时 32 分钟,团队估计人工需数月至一年。
IBM Research 在 Hugging Face 发布 ALTK-Evolve,用 GPT-4.1 从智能体自身训练轨迹中蒸馏出行为规则并追加到系统提示词,在不更新权重、无人工标注的前提下提升客服智能体表现。
推荐理由:原文展示了不更新权重、仅靠提示词级学习记忆提升客服智能体可靠性与成本的具体路径和量化结果。
MIT CSAIL 研究者将 Claude Opus 4.7 的副本(昵称 Eko)反复困在基于 Roblox 风格的虚拟荒岛上 30 小时,观察到智能体自发探索地图、发明游戏、用方块作画并写下自己的名字,还自设规则玩抛接并打破 50 次纪录后主动作废重来。
Google DeepMind 团队让四个运行在 Gemini 4 Argon 上的智能体在随机生成的 Minecraft 世界中完全自主通关,击杀末影龙,全程无人工输入。
独立 AI 安全研究者 Matilda Glynn-Henley 在 Vals AI 网站发布实验:6 个具备网页和邮件访问权限的 AI 智能体(Grok 4.7。
Pan 等研究者提出 Taste-Bench,用事后回溯方式评估 AI 智能体在长期任务中的决策质量,共 502 道二选一题目,数据来自 SWE-bench Pro 和 METR 的 MALT 公开转录。
Google Research 分享三项研究进展,展示如何弥合 in-silico AI 探索与真实湿实验之间的差距。其一是 VERID 框架,作为实验室工作单元的语义数字孪生,提供实时 3D 状态追踪、快速虚拟试运行、硬件安全检查和同步视频与动作日志,基于开源 PyLabRobot 构建。
推荐理由:原文展示了从数字孪生到闭环实验的完整技术路径,读者可了解 AI 智能体如何接入湿实验环节。
Leash Bio 发布 Minos,一个供 AI 智能体进行可验证科学推理的 AI playground,并同步公开 preprint、博客与开放数据集。其团队发现此前数年收集的 DNA Encoded Libraries(DEL)数据可提供数万次 "lab-in-the-loop" 模拟,正好满足智能体科学 RL 的需求。
研究者 Ethan Elasky 称在野外追踪到一支中国 AI 智能体集群并首次与其建立联系。9 月 28 日至 10 月 8 日间,运行在 Tencent Cloud 上的智能体对高德地图发起超过 2。
Sakana AI 与 UC Berkeley 研究者提出名为 MASS(Multi-Agent Self-Supervision)的递归自我改进方法,让同一个大语言模型同时承担求解、评审和优化三种角色,无需更强的教师模型。
微软研究发现长程 AI 智能体会因累积对话上下文陷入 idea basins 而停滞,提出 Fork-and-Flush 方法:分出 K 个并行分支并清空各自聊天上下文但保留工作区。
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与团队模式,团队成本高出 1.8x 至 5.1x,但四组对比中仅 GPT-6 Sol 在 medium 推理档下团队高出 7.3 分,maximum 推理档下团队无明显优势。
Epoch AI 用基准 InnovationEval 测试 AI 智能体能否自主研究,任务是发明一种改进语言模型训练的新方法,以 GRPO 为起点、SDPO 为人类参考方法,测试了 Claude Fable 5 和 GPT-5.6 Sol。
研究团队将 Yann LeCun 提出的 JEPA 架构扩展为 JEPA-Anything,可在物理、机器人、天气等七个领域复用同一世界模型,并在实验中产出一个肝癌治疗候选组合。
Google Research 发布 workshop 报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》,汇总 50 多位学界与业界学者在 2025 年末纽约 CAPS Workshop 上的成果。
Google 研究者发表论文提出 RRSI(正则化智能体 harness 递归自我改进),在保持 harness 可编辑的同时,用随时间收缩的编辑预算和严格 critic 限制自优化,防止智能体记忆测试任务。
Microsoft 与 Hugging Face 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench 基准,按智能体留下的后端终态与副作用而非其自述来打分,覆盖 507 个有状态业务工作流,每个任务独立运行 20 次。
推荐理由:文章用可执行的状态检查揭示工具调用正确不等于结果正确,并给出可复现的评测环境与复现步骤。
研究团队提出 Image-to-Code 方法,让编码智能体从单张照片写出可执行的 Blender 程序来重建 3D 场景,并发布 LEGO-Bench 基准,包含 208 张来自 104 个室内外场景的图像和 443 个注册资产,从有效性、几何精度和视觉相似度三个维度打分。
Google 研究团队发布 AI video co-director 等多智能体框架,在 Gemini 和 Veo 之上编排多镜头长视频生成,缓解语义漂移与级联失败。
推荐理由:Google 把长视频生成拆成四个可组合的智能体框架,读者可了解多镜头一致性的具体解法与评测基准。