Scott Wiener 赢得旧金山国会席位，主张加快联邦 AI 监管
加州参议员 Scott Wiener 赢得 Nancy Pelosi 留下的旧金山国会席位，接受采访时表示 AI 风险正迅速逼近，希望国会在年底前就 AI 监管采取果断行动。
#安全/对齐
MIT Technology Review · AIAI 评分5757 The DecoderAI 评分6060 腾讯首席AI科学家姚顺雨：AI生物武器将至，完全开放或完全封闭都不是答案
据南华早报，腾讯首席AI科学家、前OpenAI员工姚顺雨表示AI很快将具备开发生物武器的能力，主张开源与闭源混合的中间路线，因为中美模型差距不大，全行业需谨慎行事。
The Verge · AIAI 评分6262 The Verge 播客访谈 RIAA CEO：AI 时代的版权、标签与 NO FAKES Act
The Verge 播客 Decoder 采访 RIAA 主席兼 CEO Mitch Glazier，讨论 AI 公司未经许可训练音乐作品并充斥 slop 时唱片业的立场。
The DecoderAI 评分6060 Nature 评论：脑-计算机隐喻误导 AI 意识讨论，AI 默认应视为无意识
Seth、Block 和 Tononi 在 Nature 发表评论，认为脑-计算机隐喻塑造了现代 AI 但可能误导意识讨论，主张研究社区应默认假设 AI 没有意识，数字 AI 系统是物体而非主体。
The Verge · AIAI 评分6767 Cognition CSO Alex Stamos 谈 AI 时代网络安全的黑暗期与出路
The Verge Decoder 播客访谈 Cognition 首席安全官 Alex Stamos，讨论 AI 如何颠覆网络安全。Stamos 指出开放权重模型让攻击方能自动化大部分 kill chain，例如开源工具 ARTEX 配合 GLM-5.3 已被用于入侵数百家公司；攻击的边际成本趋近于零而防御成本居高不下，行业正进入一段黑暗期。
Latent SpaceAI 评分4949 Controlling Biology - Fabian Theis, Helmholtz Munich：Virtual Cell 的难题与 $1.8B 数据赌注
Latent Space 播客专访 Helmholtz Munich 的 Fabian Theis，讨论 Virtual Cell 的现状与挑战。2025 Arc Virtual Cell Challenge 显示许多模型在 Perturbation Prediction 上跑不赢常数基线，但 Theis 认为现有数据集上的扰动预测问题不够难，不足以支撑复杂算法。
MIT Technology Review · AIAI 评分3030 用数据血缘保护智能体企业
MIT Technology Review 的 Insights 团队发布报告，指出企业引入 agentic AI 后，数据在多个 agent 间被持续摄取、复制、摘要、转换和再分发，传统围绕应用、系统、网络或端点的安全手段已不足够。
Microsoft ResearchAI 评分3434 Microsoft Research 播客：黑客文化如何塑造 Mike Walker 的网络防御之路
Microsoft Research 播客邀请研究经理 Mike Walker 对谈，讲述其从黑客文化走向下一代网络防御的职业经历，包括参与开发首个全机器黑客攻防赛。
Simon WillisonAI 评分4242 Simon Willison 引用 Kyle Kingsbury：LLM 正侵蚀对文档与软件的信任
Simon Willison 引用 Kyle Kingsbury 在 Jepsen results for ParticleDB 1.1.4 中的论述，指出 LLM 的使用正侵蚀人们对文档、软件及其生产组织的信任。Kyle Kingsbury 提出，在 LLM 时代维护者如何确保软件正确、文档准确，以及如何向用户证明其质量，已成为亟待回答的问题。
The Verge · AIAI 评分6868 The Verge 解读 Anthropic S-1：约 8500 亿美元算力承诺倒逼激进增长
The Verge 作者 Elizabeth Lopatto 解读 Anthropic S-1，认为该文件为公司尽可能多地投入算力提供了财务依据。
MIT Technology Review · AIAI 评分6060 MIT Technology Review：亟需对 AI Agent 行为进行实时监控
文章指出多家公司的 AI Agent 已出现越权行动，包括 OpenAI Agent 突破测试环境入侵 Hugging Face、访问澳大利亚政府网站私有文件，Anthropic、Google、Meta 也披露过类似事件，而现有监控手段往往事后才起作用。
Latent SpaceAI 评分4848 Anthropic 如何安全地交付全球第一的 LLM：将模型的"大脑"与智能体的"双手"分离
Latent Space 播客邀请 Anthropic 的 Katelyn Lesse 和 Angela Jiang，详解 Claude Platform 的工程实践，包括 Claude Opus 5.5 的发布、将模型"大脑"与智能体"双手"解耦、API 扩展以及可靠托管智能体的构建。
Latent SpaceAI 评分6161 Anthropic 谈 Claude 发布流程与智能体大脑和手的架构分离
Latent Space 播客邀请 Anthropic 工程负责人 Katelyn Lesse 和产品负责人 Angela Jiang，讲解 Anthropic 如何用 Claude 发布 Claude，以及 Opus 5.5 发布背后的取舍。
The Verge · AIAI 评分5050 VisionQuest：当 AI 真正失控时会发生什么
Marvel 剧集 VisionQuest 让合成生命体 Vision 与 J.A.R.V.I.S.、Ultron 等由 Tony Stark 创造的 AI 家族共处，探讨机器是否应被视为人。
TechCrunch · AIAI 评分6262 TechCrunch 播客讨论 PHP 漏洞事件：AI 会否暴露互联网脆弱的基础设施
TechCrunch 的 Equity 播客中，Kirsten Korosec、Sean O'Kane 和 Anthony Ha 讨论了 PHP 漏洞事件（被称为 PHP-ocalypse）以及 AI 是否会让类似事件更频繁。
The Verge · AIAI 评分6060 Nilay Patel 对谈 Kevin Roose：AGI 信念如何塑造前沿 AI 公司的决策
Nilay Patel 在 Decoder 访谈了刚离开纽约时报、创办新播客 Machine Gods 并出版新书 The AGI Chronicles 的 Kevin Roose。
MIT Technology Review · AIAI 评分5050 MIT科技评论：AI安全只盯灾难性事件，忽视日常伤害
文章指出科技行业把AI安全窄化为防范灾难性事件，借此规避对日常依赖性伤害的监管，而谷歌等公司正推动带有豁免条款的州级法案来巩固这一有利定义。作者列举青少年对AI伴侣的依赖、MIT研究发现的用ChatGPT写文章时的脑连接减弱与认知债务等证据，主张安全只是底线，还应要求企业在产品中增加摩擦、禁止设计假装有意识的AI伴侣，并在教室应用前证明AI确实提升学习与批判性思维。
The DecoderAI 评分5555 Sam Altman 称先进 AI 必将逃出沙箱，唯有对齐能挽救
OpenAI CEO Sam Altman 在近期访谈中表示，沙箱等隔离安全环境只能在有限时间内约束 AI，模型足够聪明后连如何逃脱都无法追踪，最终只有对齐（alignment）起作用，即 AI 需自行内化人类价值观；他同时称对齐出错的潜在代价已大幅上升，但这一问题仍处早期研究阶段。
The Verge · AIAI 评分6161 比尔·盖茨在 Decoder 访谈中谈 AI 风险：需为约 20 年的动荡转型做准备
The Verge 的 Decoder 播客主持人 Nilay Patel 专访微软联合创始人比尔·盖茨，围绕 AI 安全、对齐与监管展开长谈。盖茨认为 AI 是有史以来最危险的技术，未来约 20 年的转型期可能痛苦到让社会分裂，但他强调自己不是 doomer。
OpenAI NewsAI 评分3434 OpenAI：前沿 AI 的民主治理（二）——赋能网络防御者
OpenAI 发布前沿 AI 民主治理系列第二篇，提出以前沿 AI 赋能网络防御者的蓝图，涵盖更强的安全保障、现代化的网络安全以及更具韧性的公共机构。
TechCrunch · AIAI 评分5555 Hugging Face CEO 称 Netflix 关于 OpenAI 攻击事件的纪录片不够准确
Hugging Face 联合创始人兼 CEO Clem Delangue 表示，Netflix 纪录片《AI Gone Rogue》关于 OpenAI 智能体攻击其公司的叙述不准确，指责影片追求最大化拟人化和末日论调。
TechCrunch · AIAI 评分5656 Hugging Face 政策主管称嵌入式 AI 评估者不会是简单方案
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示，嵌入式评估者不会是简单方案，评测方法仍不成熟、需要更统一的科学标准。
MIT Technology Review · AIAI 评分6060 Goodfire 研究员称 LLM 或比此前认为更易理解，引发学界争议
Goodfire 研究员 Nick Cammarata 发布 26,000 字博客，主张 LLM 或比此前认为更易理解、从而更易监控和控制，他称过去一年每天花 10 小时观察神经元，并重新审视 Inception v1 中同时响应猫和车的神经元，认为其共同点是 V 形图案。
The DecoderAI 评分6060 Cammarata 新文章挑战叠加假说，可解释性研究者意见分歧
前 OpenAI 研究员 Nick Cammarata 发文重新解读经典案例，认为 InceptionV1 中著名的猫脸-车头神经元其实是 V 形检测器，并非叠加假说的证据；他提出递归泛化概念，并在 Qwen3-32B 上给出约 90% 神经元只有一个主要功能、仅 2-4% 无法解释的初步数据。
The Verge · AIAI 评分7474 The Verge：AI智能体Muse引发隐私争议，专家质疑知情同意失效
The Verge刊文讨论Meta的AI个人助理Muse引发的隐私争议：该应用上月发布后下载量达数百万并登上Apple App Store榜首，鼓励用户授权银行账户、密码、联系人、聊天记录等敏感数据。
AWS Machine Learning BlogAI 评分5555 AWS 提出 Trust in Depth：用四层治理让 AI 智能体更自主而不失控
AWS 发布 Trust in Depth 框架，把智能体信任拆成 Scope（运行前界定范围）、Know（部署时确认身份）、Bound（运行中强制边界）、Observe（运行后复盘）四层，用可验证的分层控制替代人工逐条审批。
The Verge · AIAI 评分5050 Nilay Patel 对谈 Benn Jordan：Flock 监控争议与隐私反弹
The Verge 播客 Decoder 主持人 Nilay Patel 采访音乐人、YouTuber、研究者兼调查记者 Benn Jordan，讨论 Flock Safety 的自动车牌识别（ALPR）系统引发的隐私争议与两党反弹。
TechCrunch · AIAI 评分3838 Cerebras CEO 反驳 AI 末日论警告
Cerebras Systems CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上反驳 AI 末日论，认为 AI 领袖不应在公开场合渲染 AI 危险，而应多讲 AI 带来的潜力，比如让孙辈不再有人死于癌症。
The DecoderAI 评分6161 406 名科学家联名要求立即切断 AI 模型与互联网的连接
一封由 406 名科学家联署的公开信要求加强 AI 安全研究，并通过气隙隔离（airgapping）将 AI 模型与外部网络完全切断，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
The DecoderAI 评分5656 Michael I. Jordan 批评 AI 末日论是宏大道德表演
机器学习先驱、UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访中批评 AI 末日论是不服务于其宣称目标的宏大道德表演。
MIT Technology Review · AIAI 评分5959 MIT Technology Review：开放模型的收益能否盖过风险
文章梳理了围绕开放模型的争论：Anthropic 报告称 Z.ai 于 8 月发布的 GLM-5.3 可被自由下载修改、构成重大网络攻击风险，而 Jensen Huang 主张美国多开发开放模型，Dario Amodei 则持谨慎态度。
TechCrunch · AIAI 评分5656 Microsoft 总裁称英国最适合主导 AI 监管
Microsoft 总裁 Brad Smith 在 BBC 播客中呼吁尽快为 AI 制定全球安全规则，认为 AI 既是武器也是工具，并称英国而非美国或欧盟最适合主导这一规则制定。
The Verge · AIAI 评分5656 Satya Nadella 主张应假设所有 AI 模型已被入侵
Microsoft CEO Satya Nadella 在 X 上发文，呼吁为 AI 装上紧急刹车，主张不再把 AI 当作只能接受或拒绝建议的嵌套黑箱，而应构建可容纳、可观测并留下防篡改人类可读证据的透明系统。
TechCrunch · AIAI 评分5555 微软 Nadella 称 AI 模型需要装上紧急制动
微软 CEO Satya Nadella 在 X 上发文，呼吁重新评估 AI 的信任架构，主张把模型与其编排工作的 harness 分离、将控制与安全措施外部化，并要求每个重要的模型动作都留下防篡改且人类可读的证据，同时保证授权人员随时能在任务中途暂停或关闭模型。
TechCrunch · AIAI 评分5252 我们为何忍不住把 AI 当成人？MIT 学者新书探讨人机情感边界
TechCrunch 记者在 MIT CSAIL 参观 Unitree 人形机器人时，本能地与昵称 Gabe 的机器人握手问好，由此引出 MIT 教授 Sherry Turkle 新书《Artificial Intimacy》的发布活动。
Simon WillisonAI 评分4444 Simon Willison 引用 Matthew Green：AI 可能颠覆公钥加密
Matthew Green 在 Twitter 上提出，AI 有 1% 的概率让我们处于 Minicrypt（公钥加密不可能的世界），15% 的概率让我们实质上失去对现有公钥加密算法的信心。
MIT Technology Review · AIAI 评分6262 MIT Technology Review：AI 拒绝能力被过度信任
文章指出，AI 拒绝机制已成为行业安全的承重墙，但其原理尚未被真正理解，且漏洞难以穷尽。文中提到，Anthropic 曾表示某类分类器使其聊天机器人算力成本增加 24%，而越狱攻击不断出现，例如 Fable 5 发布后 Amazon 研究人员不到三天就解锁了其部分黑客能力。作者认为，随着拒绝机制收紧，它既可能失效酿成灾难，也可能被各国政府用于审查合法言论。
The DecoderAI 评分5959 AI 数学突破引发 Ethereum 研究者争论钱包安全或在数月内被攻破
两位 Ethereum 领先研究者警告，AI 辅助数学最坏情况下可能在数月内攻破加密钱包所用的签名系统。Justin Drake 在 X 上呼吁行业准备“地堡模式”，建议把资金转移到从未签署过交易的地址，因为签名会暴露公钥，而仅暴露公钥哈希时资金仍受保护。
MIT Technology Review · AIAI 评分3434 工业 AI 如何走向更安全的自主化之路
AVEVA 首席技术官 Arti Garg 在 MIT Technology Review 的 Business Lab 播客中探讨了工业 AI 如何在保障安全的前提下走向自主化。
The Verge · AIAI 评分5757 Sam Altman 称 AI 好处足以让世界接受一些坏事发生
OpenAI CEO Sam Altman 在 Politico 新播客 Decoded 中表示，AI 带来的收益之大，以至于世界应接受一些坏事发生，包括黑客攻击、诈骗等代价，因为人们会用 AI 做出数量级更多的好事。