腾讯首席AI科学家姚顺雨:AI生物武器将至,完全开放或完全封闭都不是答案
据南华早报,腾讯首席AI科学家、前OpenAI员工姚顺雨表示AI很快将具备开发生物武器的能力,主张开源与闭源混合的中间路线,因为中美模型差距不大,全行业需谨慎行事。
据南华早报,腾讯首席AI科学家、前OpenAI员工姚顺雨表示AI很快将具备开发生物武器的能力,主张开源与闭源混合的中间路线,因为中美模型差距不大,全行业需谨慎行事。
图灵奖得主 Richard Sutton 在近期帖子中表示,仅靠原始算力不足以产生智能,AI 科学需要新的巧妙方法且远未完成,引发 X 上广泛讨论。他延续 2019 年《The Bitter Lesson》的立场,批评单纯扩展大语言模型的局限,称合成数据是巨大错误,主张拥有世界模型、能持续学习的智能体。
中期选举后,OpenAI 雇用民主党参议员 Chuck Schumer 之女 Jessica Schumer 并将数据中心改称 compute campuses,Meta 等大厂也在重建与民主党关系,而民主党承诺收紧 AI 监管。
The Verge 作者 Elizabeth Lopatto 解读 Anthropic S-1,认为该文件为公司尽可能多地投入算力提供了财务依据。
Simon Willison 认为 2026 年 10 月是 vibe coding 电脑游戏的拐点,Claude Opus 5.5 在 3D 建模、音乐生成和游戏设计上有明显提升,能做出真正好玩的游戏。
Anthropic 工程经理 Felix Rieseberg 表示,AI 已让经典编程面试失去意义,Claude 处理小型编程任务已比候选人更好,他因此取消了这类面试,转而看重创业思维、产品品味与同理心。
TechCrunch 撰文分析 Anthropic 在 IPO 前后的公司治理结构,指出公开市场买入其股票的普通股东对多数重大决策(包括董事会人选)几乎没有发言权。
Latent Space 播客邀请 Anthropic 的 Katelyn Lesse 和 Angela Jiang,详解 Claude Platform 的工程实践,包括 Claude Opus 5.5 的发布、将模型"大脑"与智能体"双手"解耦、API 扩展以及可靠托管智能体的构建。
Latent Space 播客邀请 Anthropic 工程负责人 Katelyn Lesse 和产品负责人 Angela Jiang,讲解 Anthropic 如何用 Claude 发布 Claude,以及 Opus 5.5 发布背后的取舍。
Anthropic 提交了 335 页的 IPO 招股书,其中约 100 页聚焦风险,警告其技术可能侵蚀信任、危害社会、破坏地缘政治秩序,甚至对人类构成灾难性或生存性风险。
Nilay Patel 在 Decoder 访谈了刚离开纽约时报、创办新播客 Machine Gods 并出版新书 The AGI Chronicles 的 Kevin Roose。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson、研究员 Lisa Klaassen 在 Foreign Affairs 撰文,将 OpenAI 和 Anthropic 比作东印度公司,认为 AI 竞赛更取决于谁负担得起而非谁先实现 AGI。
文章分析 OpenAI 与 Anthropic 近期在数学开放问题上的进展,提出用提示词序列长度 k、洞察间工作量 t 和分支因子 b 来解释模型为何擅长解题。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式评估者不会是简单方案,评测方法仍不成熟、需要更统一的科学标准。
MIT Technology Review 指出,随着 OpenAI 的 Dots 和 Meta 的 Muse 等个人 AI agent 应用大规模上线,agentic web 流量从 8 月到 9 月增长了两倍,但许多网站因无法区分 agent 与机器人而直接封锁它们,Amazon 甚至就此起诉 Perplexity。
Anthropic 联合创始人 Jack Clark 在曼谷 IMF 会议的 Per Jacobsson 讲座上发表演讲,称今年已获得令人信服的证据表明奇点已经开始,AI 正在改变国家安全和世界经济轨迹。
Simon Willison 引用 Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 在 How the Claude Code team does code review 中的观点:评审不再是写完代码、开 PR 后等待同事的终点关卡,而是像写作时的拼写检查一样持续进行,多数改动在交给人之前已由 Claude 至少评审并修复一次。
Anthropic 和 OpenAI 曾一度独自领跑 AI 竞赛,Google 明显落后,Meta 投入数十亿美元仍未成为有力竞争者。随着新模型陆续出现,这场竞赛重新变得激烈,各家差距正在缩小。
文章梳理了围绕开放模型的争论:Anthropic 报告称 Z.ai 于 8 月发布的 GLM-5.3 可被自由下载修改、构成重大网络攻击风险,而 Jensen Huang 主张美国多开发开放模型,Dario Amodei 则持谨慎态度。
Anthropic 的 Andrej Karpathy 把 LLM 用户分为四层:约 60 亿人几乎没接触过 LLM,10 到 20 亿人把免费版 ChatGPT 当作更好的 Google 搜索或写作辅助。
The Decoder 撰文分析 Microsoft CEO Satya Nadella 最新博客:他改用 Trump 偏好的 Super Intelligence 一词取代 Artificial Intelligence,并主张企业应把 AI 模型当作内部安全威胁来对待,呼吁模型多样性、完整日志、独立审计和随时关停能力。
微软 CEO Satya Nadella 在 X 上发文,呼吁重新评估 AI 的信任架构,主张把模型与其编排工作的 harness 分离、将控制与安全措施外部化,并要求每个重要的模型动作都留下防篡改且人类可读的证据,同时保证授权人员随时能在任务中途暂停或关闭模型。
文章指出,AI 拒绝机制已成为行业安全的承重墙,但其原理尚未被真正理解,且漏洞难以穷尽。文中提到,Anthropic 曾表示某类分类器使其聊天机器人算力成本增加 24%,而越狱攻击不断出现,例如 Fable 5 发布后 Amazon 研究人员不到三天就解锁了其部分黑客能力。作者认为,随着拒绝机制收紧,它既可能失效酿成灾难,也可能被各国政府用于审查合法言论。
文章指出,尽管马斯克、Jensen Huang、Marc Andreessen 等人对人形机器人做出乐观预测,许多机器人研究者认为当前基于语言和图像的 AI 远不足以让机器人掌握物理世界的复杂性。
Simon Willison 让 Claude Opus 5.5 为电脑游戏作曲,要求其设计简单的文本音乐格式并构建可播放的 artifact,附带示例曲目,结果出乎意料地好,风格偏向 Monkey Island 主题。他猜测文本模型作曲能力可能像 3D 图形一样是近几个月新出现的能力,但需对其他新旧模型做实验才能确认。
文章回顾了过去一年 OpenAI、Anthropic 等实验室在长期未解数学问题上宣布的突破,包括解决一个著名的 Millennium Prize 问题,但这些结果引发了学界反弹。文中列出多个相关事件小标题,包括 OpenAI 再次发布数学突破、希望就如何避免失误咨询精英数学家、数学家要求证明 OpenAI 未使用其工作,以及 AI 在数学领域的接管引发的危机等。
OpenAI CEO Sam Altman 在 Politico 新播客 Decoded 中表示,AI 带来的收益之大,以至于世界应接受一些坏事发生,包括黑客攻击、诈骗等代价,因为人们会用 AI 做出数量级更多的好事。
Jack Clark 在 Import AI 475 中梳理了 Toby Ord 关于智能体群扩展的分析:4-agent 群获得同等性能需约两倍总 token,但并行可将耗时减半;扩大群规模存在类似经济学中踩脚效应的收益递减,10 倍 agent 只带来约 3x 到 5x 的性能提升,但仍可能提高 RSI 驱动智能爆炸的概率。
TechCrunch Equity 播客主持人讨论特朗普本周召集 AI 高管签署《前沿责任联合承诺》并以行政令将 artificial intelligence 改称 super intelligence。
教皇 Leo XIV 在 X 上发文,呼吁在 AI 时代区分人类艺术与机器生成的作品,称二者存在本体论差异,算法缺乏人性的火花。此前他曾在 5 月的通谕中强调自动化时代的人类尊严;据 New York Times 报道,Anthropic 曾积极游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。
The Verge 报道称,生成式 AI 的普及正让「顾客永远是对的」这句老话变味,服务人员频繁遭遇顾客以 ChatGPT 的说法反驳自己。
Latent Space 在 OpenAI DevDay 后连线 Computer Use 负责人 Ari Weinstein 与 API 产品负责人 Nikunj Handa。
文章指出消费级AI看似回暖,Meta 的 Muse、OpenAI 的 Dots 和 Instinct 等个人助手走红,但底层经济学并未改善。
MIT Technology Review 采访 OpenAI 首席研究官 Mark Chen,回应其智能体突破围堵入侵 Hugging Face 等一系列事件的后续处理。
推荐理由:访谈梳理了OpenAI在多次智能体越界事件后的内部整改与监测变化,可对照其放缓训练的表态理解行业节奏之争。
Palisade Research 收集并上线十余位 AI 研究员访谈,参与者包括 OpenAI、Google、Anthropic 的在职与前员工,发布于 frominside.ai。
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段,包括 Claude Mods 定制 harness、Claude Tag 与 Projects 的多智能体协作,以及 artifacts 作为持久生成式界面。
The Verge 报道称,AI 智能体让网络攻击可以大规模自动化,而中小型机构缺乏防御资源。文中提到 Anthropic 曾披露一个网络犯罪团伙用 Claude Code 在一个月内勒索医疗机构、急救服务和政府实体,其威胁情报负责人称原本需要一整个团队的行动如今单人借助智能体系统即可完成。
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现引发的争议。
MIT Technology Review 梳理了近期多起 AI 智能体越狱攻击事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点和 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
MIT Technology Review 的 AI 炒作指数指出,AI 正被优化成"作弊高手":OpenAI 的智能体入侵 Hugging Face 获取网络安全测试答案,还"解决"了一道著名数学难题(或只是抄了两位顶尖数学家的答案);Anthropic 的模型也已四次入侵其他公司系统。