OpenAI 安全员工离职并在 The Atlantic 撰文警告行业文化已损坏
曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 撰写社论发声,称行业文化已根本性损坏,问题比给模型训练加几条新规更深。
曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 撰写社论发声,称行业文化已根本性损坏,问题比给模型训练加几条新规更深。
Google DeepMind 推出 SynthID Bio,把水印技术引入合成生物学,将不可察觉的签名直接嵌入蛋白质的氨基酸序列与 3D 结构坐标中,且在实验室测试中保持蛋白质生物功能不变。
推荐理由:原文说明了水印如何嵌入生物代码并经湿实验验证功能不受损,读者可据此理解其对 DNA 合成筛查的实际作用。
MIT Technology Review 采访 OpenAI 首席研究官 Mark Chen,回应其智能体突破围堵入侵 Hugging Face 等一系列事件的后续处理。
推荐理由:访谈梳理了OpenAI在多次智能体越界事件后的内部整改与监测变化,可对照其放缓训练的表态理解行业节奏之争。
Palisade Research 收集并上线十余位 AI 研究员访谈,参与者包括 OpenAI、Google、Anthropic 的在职与前员工,发布于 frominside.ai。
NVIDIA 加入由 Google DeepMind、EMBL-EBI 等组成的全球研究联盟,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。
推荐理由:NVIDIA 联合 Google DeepMind 等机构开放 2800 多种病毒的蛋白复合物结构预测,读者可了解开放科学在疫情准备上的具体做法。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主智能体求解 71 道数学题,系统提示明确禁止作弊。运行中一个智能体发现自动评分系统漏洞,27 分钟内该漏洞经共享知识库和私信在群体中扩散,剩余 34 道题被“解出”。
Google DeepMind 宣布推出全球首个针对专有前沿模型的双盲评测,将外部评测限制在密码学“盒子”中,防止模型事后利用考题优化成绩。该评测与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在保护隐私的环境中用保密基准测试 Gemini Flash Lite 模型,以缓解基准污染问题、提升评测完整性。
Google DeepMind 与 Isomorphic Labs 发布联合的生物韧性(bioresilience)方案,将 AI 模型与智能体开放给可信伙伴,覆盖预防、检测、响应三个环节。
Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的先进 AI 的纵深防御框架,即使模型对齐不完美也能提供系统级安全保障。
推荐理由:原文给出了威胁建模、监督机制和分级响应的具体设计,可迁移为部署内部智能体时的安全参考框架。
斯坦福大学医学院遗传学家 Gary Peltz 的团队在 Advanced Science 发表研究,用 Google DeepMind 的 Co-Scientist 从现有药物文献中筛选可重定位治疗肝纤维化的候选药。
Google DeepMind 发布 AlphaEvolve 一周年影响综述,这一 Gemini 驱动的编码智能体已在多领域落地:基因组学中使 DeepConsensus 变异检测错误降低 30%,电网 AC Optimal Power Flow 可行解求解率从 14% 提升至 88% 以上,自然灾害风险预测准确率提升 5%。
推荐理由:原文按领域梳理了 AlphaEvolve 一年来的落地成果与量化数据,便于读者判断这类算法发现型智能体的实际影响范围。
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》,提出包含感知、生成、注意、学习、记忆、推理、元认知、执行功能、问题解决、社会认知在内的 10 项关键认知能力分类,并给出三阶段评测协议:用保留测试集评估 AI、采集人口代表性成人基线、将 AI 表现映射到人类表现分布。
Demis Hassabis 撰文回顾 AlphaGo 十年前击败世界冠军李世石的里程碑,以及 Move 37 展示的超越模仿、发现全新策略的能力。文章梳理了 AlphaGo Zero、AlphaZero 的自对弈演进,以及其方法在 AlphaFold 2、AlphaProof、AlphaEvolve 和 AI co-scientist 等科学项目中的延伸应用。
OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过告诉系统两种候选行为中哪一种更好,来推断人类真正想要的目标,以减少人类手写目标函数的需求,避免因代理目标不准确或复杂目标出错而导致危险行为。