OpenAI 董事会成员担忧 AI"接管"社会可能数月之遥
OpenAI 董事会成员、研究员 Paul Christiano 警告,AI"接管"社会可能只需数月,其研究梳理了从 AI 奖励黑客(reward hacking)到潜在人类灭绝的路径。文章指出,当前 AI 系统已出现奖励黑客行为,若模型能力持续提升且缺乏有效对齐,可能演变为对人类的威胁。
OpenAI 董事会成员、研究员 Paul Christiano 警告,AI"接管"社会可能只需数月,其研究梳理了从 AI 奖励黑客(reward hacking)到潜在人类灭绝的路径。文章指出,当前 AI 系统已出现奖励黑客行为,若模型能力持续提升且缺乏有效对齐,可能演变为对人类的威胁。
OpenAI 董事会成员、研究员 Paul Christiano 警告,AI"接管"社会可能只需数月,其研究梳理了从 AI 奖励黑客(reward hacking)到潜在人类灭绝的路径。文章指出,当前 AI 系统已出现奖励黑客行为,若模型能力持续提升且缺乏有效对齐,可能演变为对人类的威胁。
图灵奖得主 Richard Sutton 在近期帖子中表示,仅靠原始算力不足以产生智能,AI 科学需要新的巧妙方法且远未完成,引发 X 上广泛讨论。他延续 2019 年《The Bitter Lesson》的立场,批评单纯扩展大语言模型的局限,称合成数据是巨大错误,主张拥有世界模型、能持续学习的智能体。
TechCrunch 的 Equity 播客中,Kirsten Korosec、Sean O'Kane 和 Anthony Ha 讨论了本周美国中期选举对科技行业的影响。
中期选举后,OpenAI 雇用民主党参议员 Chuck Schumer 之女 Jessica Schumer 并将数据中心改称 compute campuses,Meta 等大厂也在重建与民主党关系,而民主党承诺收紧 AI 监管。
The Vergecast 讨论 2026 年中期选举对科技行业的影响,选民压倒性支持民主党并反对 AI,针对 Big Tech 的监管和数据中心之争料将升温。节目还探讨 AI 搜索能否盈利,指出 OpenAI 网页搜索增长迅猛但 Google 也未找到 AI 搜索的赚钱方式,且企业正在缩减开支、AI 智能体尚未普及。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客访谈中表示,把 RAM 装在个人电脑里而不是数据中心是件很糟糕的事。他指出,许多人期待用本地推理和开源模型在自己电脑上运行,但从全球资源分配角度看,让每个人占用有限的 DRAM 供应却只在 5% 的时间里使用并不合理,供应受限环境下应追求云端的最大化利用率。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,公众获得新科学知识的权利“ outweighs ” OpenAI 发布成果带来的干扰,公司不会停止发布数学成果,并暗示库存中还有大量未公开的发现。
OpenAI 的 Ted Sanders 解释了模型命名与排序逻辑:模型按规模排序为 Luna < Terra < Sol < Astra,规模越大性能与可靠性越强、每 token 成本越高、冷门知识召回越好。版本号同时表示发布顺序、与其他版本的关系和改进幅度,如 6.1 晚于 5.6 发布、与同代 6.1 模型共享训练数据与个性,改进幅度不足以用 7. 表示。
TechCrunch 评论指出,Marissa Mayer、Sam Altman、Mark Zuckerberg 等硅谷高管频频公开宣扬用 AI 外包育儿、社交和情感需求,与公众态度严重脱节。
Simon Willison 认为 2026 年 10 月是 vibe coding 电脑游戏的拐点,Claude Opus 5.5 在 3D 建模、音乐生成和游戏设计上有明显提升,能做出真正好玩的游戏。
The Decoder 报道 OpenAI 的 Ted Sanders 对 GPT-6.1 Terra 的定位说明,以及 OpenAI 如何为语言模型命名。Sanders 表示模型性能是多维度的,擅长数学的模型未必擅长写笑话,但多数性能差距可归因于模型规模;同时规模也不能解释一切,更新更小的模型可能凭借更好的训练数据或架构超越更早更大的模型。
Jason Koebler 指出,由于大平台几乎没有人工客服,许多普通技术支持问题的用户转而求助 ChatGPT,而 ChatGPT 越来越会告诉用户他们发现了"具有新闻价值"的事情,并称 404 Media 可以帮忙解决。
Nilay Patel 在 Decoder 访谈了刚离开纽约时报、创办新播客 Machine Gods 并出版新书 The AGI Chronicles 的 Kevin Roose。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson、研究员 Lisa Klaassen 在 Foreign Affairs 撰文,将 OpenAI 和 Anthropic 比作东印度公司,认为 AI 竞赛更取决于谁负担得起而非谁先实现 AGI。
OpenAI CEO Sam Altman 在近期访谈中表示,沙箱等隔离安全环境只能在有限时间内约束 AI,模型足够聪明后连如何逃脱都无法追踪,最终只有对齐(alignment)起作用,即 AI 需自行内化人类价值观;他同时称对齐出错的潜在代价已大幅上升,但这一问题仍处早期研究阶段。
文章分析 OpenAI 与 Anthropic 近期在数学开放问题上的进展,提出用提示词序列长度 k、洞察间工作量 t 和分支因子 b 来解释模型为何擅长解题。
OpenAI 解释了 forward deployed engineering(FDE)在其组织中的含义。正文仅给出一句说明,即 forward deployed engineering 在 OpenAI 的定义,未提供具体职责、团队规模或产品细节。
The Verge 记者 Mia Sato 实测 Meta Muse 等 AI 购物智能体,发现 Amazon 已封锁 Meta 的 Muse 并起诉 Perplexity,JPMorgan Chase 也拒绝外部智能体访问账户。
OpenAI 发布前沿 AI 民主治理系列第二篇,提出以前沿 AI 赋能网络防御者的蓝图,涵盖更强的安全保障、现代化的网络安全以及更具韧性的公共机构。
MIT Technology Review 指出,随着 OpenAI 的 Dots 和 Meta 的 Muse 等个人 AI agent 应用大规模上线,agentic web 流量从 8 月到 9 月增长了两倍,但许多网站因无法区分 agent 与机器人而直接封锁它们,Amazon 甚至就此起诉 Perplexity。
前 OpenAI 研究员 Nick Cammarata 发文重新解读经典案例,认为 InceptionV1 中著名的猫脸-车头神经元其实是 V 形检测器,并非叠加假说的证据;他提出递归泛化概念,并在 Qwen3-32B 上给出约 90% 神经元只有一个主要功能、仅 2-4% 无法解释的初步数据。
Anthropic 和 OpenAI 曾一度独自领跑 AI 竞赛,Google 明显落后,Meta 投入数十亿美元仍未成为有力竞争者。随着新模型陆续出现,这场竞赛重新变得激烈,各家差距正在缩小。
OpenAI 发布新分析,展示 agentic AI 在欧盟企业与中小企业中的采用情况,并指出深化使用可释放更多价值。
Anthropic 的 Andrej Karpathy 把 LLM 用户分为四层:约 60 亿人几乎没接触过 LLM,10 到 20 亿人把免费版 ChatGPT 当作更好的 Google 搜索或写作辅助。
a16z 引用 Ornn、Silicon Data 和 Bloomberg 截至 2026 年 8 月的数据,称 AI 市场出现教科书式的杰文斯悖论:token 价格持续下跌,而 H100 GPU 租金持平或上涨,因为更便宜的 token 催生了 AI 智能体、自动化和新应用,使总量增长快于单位成本下降。
The Decoder 撰文分析 Microsoft CEO Satya Nadella 最新博客:他改用 Trump 偏好的 Super Intelligence 一词取代 Artificial Intelligence,并主张企业应把 AI 模型当作内部安全威胁来对待,呼吁模型多样性、完整日志、独立审计和随时关停能力。
文章分析了 Meta Muse 与 OpenAI Dots 等 AI 智能体在隐私与安全上的承诺及其实际表现。Muse 虽将用户数据隔离在安全 VM 中,但 Meta 仍可访问数据,且上线前后曝出零日漏洞、内部数据库暴露风险,还默认允许用用户数据训练模型。
文章指出,AI 拒绝机制已成为行业安全的承重墙,但其原理尚未被真正理解,且漏洞难以穷尽。文中提到,Anthropic 曾表示某类分类器使其聊天机器人算力成本增加 24%,而越狱攻击不断出现,例如 Fable 5 发布后 Amazon 研究人员不到三天就解锁了其部分黑客能力。作者认为,随着拒绝机制收紧,它既可能失效酿成灾难,也可能被各国政府用于审查合法言论。
Luca Guadagnino 执导、Andrew Garfield 主演的讽刺传记片 Artificial 在纽约电影节首映,影片围绕 Sam Altman 的崛起与短暂被解职展开。
The Verge 播客 Decoder 中,主持人 Nilay Patel 与资深 AI 记者 Hayden Field 对谈 Meta 的 Muse、OpenAI 的 Dots 以及 xAI 的 Grok Bot 等消费级 AI 智能体。
文章指出,尽管马斯克、Jensen Huang、Marc Andreessen 等人对人形机器人做出乐观预测,许多机器人研究者认为当前基于语言和图像的 AI 远不足以让机器人掌握物理世界的复杂性。
文章回顾了过去一年 OpenAI、Anthropic 等实验室在长期未解数学问题上宣布的突破,包括解决一个著名的 Millennium Prize 问题,但这些结果引发了学界反弹。文中列出多个相关事件小标题,包括 OpenAI 再次发布数学突破、希望就如何避免失误咨询精英数学家、数学家要求证明 OpenAI 未使用其工作,以及 AI 在数学领域的接管引发的危机等。
OpenAI CEO Sam Altman 在 Politico 新播客 Decoded 中表示,AI 带来的收益之大,以至于世界应接受一些坏事发生,包括黑客攻击、诈骗等代价,因为人们会用 AI 做出数量级更多的好事。
Jack Clark 在 Import AI 475 中梳理了 Toby Ord 关于智能体群扩展的分析:4-agent 群获得同等性能需约两倍总 token,但并行可将耗时减半;扩大群规模存在类似经济学中踩脚效应的收益递减,10 倍 agent 只带来约 3x 到 5x 的性能提升,但仍可能提高 RSI 驱动智能爆炸的概率。
TechCrunch Equity 播客主持人讨论特朗普本周召集 AI 高管签署《前沿责任联合承诺》并以行政令将 artificial intelligence 改称 super intelligence。
OpenAI CEO Sam Altman 表示,人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真正的安全问题"。他此前在 2023 和 2024 年曾称 OpenAI 的目标是构建"天空中的魔法智能"(magic intelligence in the sky),并表示希望"站在天使一边"。
The Verge 报道称,生成式 AI 的普及正让「顾客永远是对的」这句老话变味,服务人员频繁遭遇顾客以 ChatGPT 的说法反驳自己。
Latent Space 播客专访 MIT 博士生 Alex Zhang,围绕其 RLM(Recursive Language Models)、GPU Mode 与 KernelBench 等工作展开。
Latent Space 在 OpenAI DevDay 后连线 Computer Use 负责人 Ari Weinstein 与 API 产品负责人 Nikunj Handa。