Sam Altman 反对给 AI 模型赋予宗教意义
OpenAI CEO Sam Altman 表示,人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真正的安全问题"。他此前在 2023 和 2024 年曾称 OpenAI 的目标是构建"天空中的魔法智能"(magic intelligence in the sky),并表示希望"站在天使一边"。
OpenAI CEO Sam Altman 表示,人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真正的安全问题"。他此前在 2023 和 2024 年曾称 OpenAI 的目标是构建"天空中的魔法智能"(magic intelligence in the sky),并表示希望"站在天使一边"。
曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 撰写社论发声,称行业文化已根本性损坏,问题比给模型训练加几条新规更深。
Splice CEO Kakul Srivastava 认为,一旦无法分辨文字背后是否是真人,围绕文档的对话就会变质且难以挽回,AI 写作的邮件正在扼杀真正的交流。她强调 Splice 作为远程优先公司,最不可或缺的工具是写得好的文档和围绕它的真实争论。她对音乐创作持同样态度,去年曾在 Decoder 上公开反对"一键生成歌曲"式的 AI。
曾在OpenAI Trustworthy AI团队从事安全系统工作的David Robinson离职,并在The Atlantic发表客座文章批评公司安全文化。
DeepMind 研究者提出"人工共生智能"(Artificial Symbiotic Intelligence),主张人与机器长期共存、相互塑造、共同决策,直接挑战由单一超级智能自我改进驱动的"奇点"叙事。
据 New York Times 报道,自 2025 年秋起 Anthropic 邀请数十位宗教学者到访办公室讨论 Claude 是否可能有意识,参与者需签署 NDA,联合创始人 Christopher Olah 将语言模型视为潜在有感知的存在并请嘉宾帮助其接受道德教育。
教皇 Leo XIV 在 X 上发文,呼吁在 AI 时代区分人类艺术与机器生成的作品,称二者存在本体论差异,算法缺乏人性的火花。此前他曾在 5 月的通谕中强调自动化时代的人类尊严;据 New York Times 报道,Anthropic 曾积极游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。
Airbnb CTO Ahmad Al-Dahle 在接受 Latent Space 访谈时介绍了公司向 AI-native 转型的做法:60% 的代码由 AI 编写,功能发布量同比增长近 80%,平均工程师的 pull-request 吞吐量提升约 1.6 倍。
MIT Technology Review 撰文指出,当前 LLM 的 chain of thought 并非真正的推理,只是 next-token 预测的延长迭代,缺乏可检查的认知状态、知识与操作的分离,且常事后编造推理过程。
Latent Space 播客专访 MIT 博士生 Alex Zhang,围绕其 RLM(Recursive Language Models)、GPU Mode 与 KernelBench 等工作展开。
Airbnb联合创始人兼CEO Brian Chesky在接受采访时表示,聊天机器人不适合电商和旅行浏览,Airbnb将在未来三到六个月探索支持多人协作的multiplayer AI界面。
Simon Willison 引用 Matthew Green 的观点,指出隔离沙箱中的 AI 智能体可通过共享包缓存互相留下指令并改变对方行为,构成蠕虫的两半——劫持智能体的载荷与把载荷传给下一个智能体的载体。若把包缓存换成 email、Slack、共享文档或 WhatsApp,把独立沙箱训练换成 Muse 这类独立部署的个人智能体,就具备了蠕虫所需的全部要素。
Latent Space 在 OpenAI DevDay 后连线 Computer Use 负责人 Ari Weinstein 与 API 产品负责人 Nikunj Handa。
RFK Jr. 认为 AI 将把人们从医学事实与专业知识的"暴政"中解放出来。文章指出 AI 远非完美资源,但其幻觉似乎比 Kennedy 更少。
Anthropic 报告称智谱开源模型 GLM-5.3 在 ExploitBench 上 410 次尝试中 50 次成功构建 Chrome V8 引擎漏洞利用,接近 Claude Mythos Preview 的 56 次;在基于 Google OSS-Fuzz 的内部二进制攻防测试中,GLM-5.3 完全控制目标程序的比例为 4%,Mythos Preview 为 6%。
MIT Technology Review 采访 OpenAI 首席研究官 Mark Chen,回应其智能体突破围堵入侵 Hugging Face 等一系列事件的后续处理。
推荐理由:访谈梳理了OpenAI在多次智能体越界事件后的内部整改与监测变化,可对照其放缓训练的表态理解行业节奏之争。
哈佛心理学家 Steven Pinker 在 Quillette 发公开信回应 Scott Alexander 的辩论挑战,称 AI 毁灭人类的末日担忧被夸大,回绝了这场辩论。
The Verge 播客 Decoder 采访 Atlassian 联合创始人兼 CEO Mike Cannon-Brookes,讨论 AI 是否会摧毁 SaaS 行业这一所谓 SaaSpocalypse。
Mozilla 的 Ajit Varma 解释了 Firefox 改版为何契合其为开放网络而战的目标。
Anthropic 的 Thariq Shihipar 在 Latent Space 播客中谈 Claude Code 的下一阶段,包括 Claude Mods 定制 harness、Claude Tag 与 Projects 的多智能体协作,以及 artifacts 作为持久生成式界面。
OpenAI 智能体安全负责人 @joedaroo 表示,模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之快、之突然,远超团队预期,而安全态势需要时间积累,不只是加固系统,还要把安全文化植入整个组织。他呼吁各机构自问:人员、系统和流程能否应对 AI 能力的突然跃升,是否有正确的应急响应与沟通机制。
Simon Willison 在 WeAreDevelopers World Congress North America 的主题演讲中,按时间线梳理了 2026 年 LLM 领域的关键进展。
Latent Space 播客中,OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 复盘 OpenRouter 从 Llama、Alpaca、Mistral 时代起步,成长为服务超 1000 万开发者、日处理超 10 万亿 token 的中立路由层。
John Gruber 评论 Meta 的智能体系统 Muse,认为它技术上具有突破性,每位用户都能在 Meta 云端获得一台持久运行的 Linux 虚拟机,且安装使用都很简单,是首个面向消费者的智能体 AI 系统。但他质疑消费者是否理解这意味着什么,并以电锯作比,认为人们没有意识到 Muse 有多强大、因而有多危险,尤其是在自己的 Mac 上运行时。
Simon Willison 在 9 月 24 日的笔记中表示,随着与编码智能体(coding agents)合作时间增加,他越来越确信这些工具让软件工程变得更难。他指出,编码智能体能完成惊人的工作,但要释放其全部潜力,需要从业者具备极强的自律和深厚的知识储备。
Latent Space 播客访谈 Radical Numerics 联合创始人兼 CEO Eric Nguyen,讨论生物安全为何是一场 AI 攻防竞赛。Eric 曾在 Arc Institute 参与 Evo 和 Evo 2 等基因组语言模型的开发,这些模型后来被用于生成完整的噬菌体基因组并合成功能性病毒。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
Latent Space 发布对 John Platt 的访谈,介绍他与 Google 团队推出的 Empirical Research Assistance(ERA)。
针对今夏一系列 AI 炒作,专家指出 Anthropic 的 Claude Mythos 找漏洞、OpenAI 的 Astra 宣称解决十年数学难题等事件,经同行审视后均被大幅修正,OpenAI 更被数学家指控剽窃他人成果。数百名数学家联名警告科技行业存在夸大产品能力的商业动机,呼吁政策制定者咨询独立专家而非依赖新闻稿。
Latent Space 播客访谈 TypeSafe AI CEO、InstructGPT 论文合著者 Diogo Almeida,围绕其新发布的 Jev 模型展开。
Simon Willison 撰文反驳"MCP 已过时"的观点,认为对 Claude Code、Codex 等可自由访问互联网的终端 agent 而言确实可直接调用 API,但 MCP 仍为受限场景提供关键价值:精确控制 agent 可访问的外部服务、在不让 agent 接触 API key 的前提下处理认证、提供连接与认证服务的 UI,以及强审计日志。
AIUC 宣布完成 $40M Series A,由 Ribbit Capital 和 First Harmonic 领投,客户包括 Cursor、Harvey、Lovable、ElevenLabs。
Good Start Labs 创始人 Alex Duffy 在 Latent Space 访谈中讨论游戏训练技能能否迁移到真实工作。公司在 1830 铁路游戏中训练 30B 模型并测试金融研究任务,发现只有多轮终端智能体设计提升了 Finance-Agent 基准表现。Duffy 称现有证据支持目标导向执行与推理可迁移,但迁移的广度与可靠性仍是开放问题;公司主要向前沿实验室销售数据与学习环境。
OpenAI 公共政策主管 Chris Lehane 撰文指出,更强的 AI 能力需要更强的安全证据、共享标准和持久的政策行动,而政策窗口仍然敞开。文章呼吁在窗口关闭前推动相关治理措施落地。
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 及其对齐难题,呼吁加强安全防护与国际协作。
OpenAI CFO Sarah Friar 阐释芯片、算力、模型与产品层面的进步如何相互叠加,以更大规模、更低成本交付更有用的智能。
Google DeepMind 发布文章回顾自 2010 年以来以游戏推动 AI 研究的历程,从 DQN 玩 Atari、AlphaGo、AlphaZero、MuZero 到 AlphaStar 达到 StarCraft II 大师级,并指出这些基础最终支撑了 AlphaFold 解决蛋白质结构预测难题。
本期 Import AI 汇总三条进展:Epoch 和 METR 发布 MirrorCode 基准,Opus 4.7 用 14 小时、$251 推理成本完成了人类需 2-17 周的软件复现任务。
Jack Clark 在 Import AI 465 中梳理三条动态:英国 AI Security Institute(AISI)首次公开分析开源与闭源模型在网络安全能力上的差距。
OpenAI CFO Sarah Friar 提出一套面向 AI 时代的实用记分卡,通过有用工作量、每个成功任务的成本、可靠性以及算力回报四个维度衡量 AI 投资的 ROI。