MIT科技评论:AI安全只盯灾难性事件,忽视日常伤害
文章指出科技行业把AI安全窄化为防范灾难性事件,借此规避对日常依赖性伤害的监管,而谷歌等公司正推动带有豁免条款的州级法案来巩固这一有利定义。作者列举青少年对AI伴侣的依赖、MIT研究发现的用ChatGPT写文章时的脑连接减弱与认知债务等证据,主张安全只是底线,还应要求企业在产品中增加摩擦、禁止设计假装有意识的AI伴侣,并在教室应用前证明AI确实提升学习与批判性思维。
文章指出科技行业把AI安全窄化为防范灾难性事件,借此规避对日常依赖性伤害的监管,而谷歌等公司正推动带有豁免条款的州级法案来巩固这一有利定义。作者列举青少年对AI伴侣的依赖、MIT研究发现的用ChatGPT写文章时的脑连接减弱与认知债务等证据,主张安全只是底线,还应要求企业在产品中增加摩擦、禁止设计假装有意识的AI伴侣,并在教室应用前证明AI确实提升学习与批判性思维。
Apollo Global Management首席经济学家Torsten Slok在近期发布的报告中称,除科技行业外,AI尚未给美国大企业带来任何财务回报。他聚焦剔除Alphabet、Amazon、Apple、Meta、Microsoft、Nvidia和Tesla后的S&P 493,发现利润率和人均营收基本持平,没有证据显示AI提升了生产率。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson、研究员 Lisa Klaassen 在 Foreign Affairs 撰文,将 OpenAI 和 Anthropic 比作东印度公司,认为 AI 竞赛更取决于谁负担得起而非谁先实现 AGI。
BBC 自然纪录片《Blue Planet III》刻意保留浮游生物、船只、浮标等不完美镜头,以区别于 AI 生成内容的过度精致感。执行制片人 Elizabeth White 表示,真实海洋生物"可能比 AI 想象的更非凡"。片中呈现海豚用海绵堵洞捕鱼、跨物种鱼类交流及 20 万只螃蟹列队进食等画面。
The Vergecast 本期节目中,David 和 Nilay 就 iPhone Duo 的 7/10 评分展开辩论,讨论它若以 iPad 而非 iPhone 的形态推出是否会是更好的产品,以及它能否成为适合所有人的手机。
OpenAI CEO Sam Altman 在近期访谈中表示,沙箱等隔离安全环境只能在有限时间内约束 AI,模型足够聪明后连如何逃脱都无法追踪,最终只有对齐(alignment)起作用,即 AI 需自行内化人类价值观;他同时称对齐出错的潜在代价已大幅上升,但这一问题仍处早期研究阶段。
文章分析 OpenAI 与 Anthropic 近期在数学开放问题上的进展,提出用提示词序列长度 k、洞察间工作量 t 和分支因子 b 来解释模型为何擅长解题。
MIT Technology Review 的 EmTech Future 大会一场会议探讨在高度监管环境中构建可扩展 AI 系统的基础,指出数据、工程、平台、运营模式与治理必须协同运作。
定格动画工作室 Laika 的 CEO、Wildwood 导演 Travis Knight 在影片 10 月 23 日首映前接受采访,称生成式 AI 与工作室的一切根本对立,认为当技术取代艺术家的工作时产出没有灵魂和人性,等同于盗窃。
Moshi CEO Anekha Sokhal 在 AI Engineer New York 与 swyx 对谈,讲述从数学、JPMorgan 能量衍生品交易到创办 Moshi 的经历。
Moshi 正在为大宗商品交易员打造一个推荐引擎,把市场信息与交易员持仓真正关心的内容连接起来,其 CEO Anekha Sokhal 在 AI Engineer New York 上将其形容为 Bloomberg、Claude 与 Netflix 的结合体——市场数据、操作界面加个性化推荐。
The Verge 的 Decoder 播客主持人 Nilay Patel 专访微软联合创始人比尔·盖茨,围绕 AI 安全、对齐与监管展开长谈。盖茨认为 AI 是有史以来最危险的技术,未来约 20 年的转型期可能痛苦到让社会分裂,但他强调自己不是 doomer。
OpenAI 解释了 forward deployed engineering(FDE)在其组织中的含义。正文仅给出一句说明,即 forward deployed engineering 在 OpenAI 的定义,未提供具体职责、团队规模或产品细节。
The Verge 记者 Mia Sato 实测 Meta Muse 等 AI 购物智能体,发现 Amazon 已封锁 Meta 的 Muse 并起诉 Perplexity,JPMorgan Chase 也拒绝外部智能体访问账户。
Celonis 企业 AI 首席科学家 Devavrat Shah 提出,企业 AI 要从实验走向规模化,关键是为 AI agent 补上业务运营上下文,即他所称的"决策智能"。他建议企业从一个具体业务决策入手,找出最难的环节测试 AI 能否提速,再衡量收益决定是否推广。Shah 还指出,落地需要投资员工教育,让员工理解 AI 输出而非直接把决策交给 agent。
Apple Music 推出由人工打造的新品牌形象,文章认为在 AI 生成内容泛滥("AI slop")的当下,展示人类亲手制作的过程有助于建立差异化价值。
OpenAI 发布前沿 AI 民主治理系列第二篇,提出以前沿 AI 赋能网络防御者的蓝图,涵盖更强的安全保障、现代化的网络安全以及更具韧性的公共机构。
Google DeepMind 创始人、诺贝尔化学奖得主 Demis Hassabis 表示 AGI 可能在两到三年内到来,比他今年早些时候说的三到五年更近,他将其定义为匹配人脑全部认知范围的系统。
Latent Space 在 AIE New York 访谈 Tenex 的 Alex Lieberman 和 CJ Hess,讨论按交付产出(story points)而非工时付费的模式:Tenex 已有 75 人,客户一半是 Fortune 2000、一半是年收入 100-500 million 的中型企业,最高与最低薪工程师收入差距约 4X,今年工程师产出约翻倍。
前 Nvidia 产品营销人、Techable Ventures 创始合伙人 Amulya Vishwanath 表示,Physical AI 目前处于「LEGO 时代」,行业正重新思考机器人基础软件和构建模块,如机械手、执行器等,尚未迎来机器人的「ChatGPT 时刻」。
Hugging Face 联合创始人兼 CEO Clem Delangue 表示,Netflix 纪录片《AI Gone Rogue》关于 OpenAI 智能体攻击其公司的叙述不准确,指责影片追求最大化拟人化和末日论调。
Latent Space 在 AIE NYC 期间访谈 SF Compute CEO Evan Conrad,讨论算力交易市场如何运作。Evan 用酒店类比说明公司从转租集群起步,逐步自建了云的运营能力以实现物理结算,即让买家真正拿到可用算力而非现金赔付。
据 The Information 报道,OpenAI CEO Sam Altman 上周向员工提出三种 AI 安全方案:一是仿照 IAEA 设立机构检查系统。
Microsoft Research 播客本期由 Principal Technical Program Manager Weishung Liu 对话 Microsoft Research Catalyst Lab 负责人 Chris White,回顾其从哈佛博士后、DARPA 项目到阿富汗一线技术负责人、暗网搜索工具研发者的经历。
HPE 指出企业 AI 正从零散的 chatbot/copilot 试验转向业务基础层,核心指标应从 token 或 GPU-hour 成本转向"每个有效产出的成本"(effective cost per useful outcome)。
纽约市长Mamdani在AI Now Institute举办的The People's AI Assembly活动上批评联邦政府在AI监管上彻底弃责,呼吁纽约人抵制AI不可避免冲击工作与生活的感觉。
Jeremy Scheff 撰文感叹,coding agents 正在夺走职业程序员从解谜中获得的乐趣——过去程序员靠解决棘手逻辑难题拿高薪、主导策略与时间线,如今 LLM 让这一切不再必要。Simon Willison 转引指出,对热爱构建系统本身而非问题本身的程序员来说,LLM 是"取之不尽的礼物";但若解题过程本身就是乐趣所在,这种失落非常真实。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式评估者不会是简单方案,评测方法仍不成熟、需要更统一的科学标准。
MIT Technology Review 指出,随着 OpenAI 的 Dots 和 Meta 的 Muse 等个人 AI agent 应用大规模上线,agentic web 流量从 8 月到 9 月增长了两倍,但许多网站因无法区分 agent 与机器人而直接封锁它们,Amazon 甚至就此起诉 Perplexity。
Goodfire 研究员 Nick Cammarata 发布 26,000 字博客,主张 LLM 或比此前认为更易理解、从而更易监控和控制,他称过去一年每天花 10 小时观察神经元,并重新审视 Inception v1 中同时响应猫和车的神经元,认为其共同点是 V 形图案。
伊利诺伊州州长 JB Pritzker 在 Decoder 播客访谈中表示,AI 既可能帮助人类活到 100 岁,也可能像核武器一样构成威胁,政府必须更主动地站出来保护民众,而非一味与企业合作。他指出,AI、科技与隐私问题正推动一场代际政治重组,政府应在数据、隐私和反垄断领域对大公司采取更强硬立场。访谈还涉及他与 Bears 球队谈判留在伊利诺伊州等话题。
Anthropic 联合创始人 Jack Clark 在曼谷 IMF 会议的 Per Jacobsson 讲座上发表演讲,称今年已获得令人信服的证据表明奇点已经开始,AI 正在改变国家安全和世界经济轨迹。
The Verge 分析称,若民主党在中期选举中赢得国会至少一院的控制权,将能主导关键委员会议程,就数据中心税收抵免、黑客事件等向 AI 公司施压并传唤 CEO 作证。
Simon Willison 引用 Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 在 How the Claude Code team does code review 中的观点:评审不再是写完代码、开 PR 后等待同事的终点关卡,而是像写作时的拼写检查一样持续进行,多数改动在交给人之前已由 Claude 至少评审并修复一次。
MIT Technology Review 资深 AI 记者 James O'Donnell 对谈斯坦福大学/Arc Institute 生物工程博士生 Samuel King,聊他用生成式 AI 模型为微观病毒提出基因蓝图的工作,以及他入选 MIT Technology Review Innovators Under 35 与看待生物学的新方式。该场对谈于 10 月 16 日录制。
NVIDIA 前机器人平台产品营销负责人 Amulya Vishwanath 在 TechCrunch 的 Equity 播客中表示,Physical AI 不止于机器人,还包括"一个分子、一种材料、一种药物"或工厂产线上的机器。
前 Nvidia 机器人平台产品营销负责人、Techable VC 创始管理合伙人 Amulya Vishwanath 在 TechCrunch 的 Equity 播客中表示,机器人目前仍处于“乐高时代”,执行器、机械手、软件和安全标准等基础模块仍在重建,尚未迎来自己的“ChatGPT 时刻”。
演员兼导演 Mark Wahlberg 在 TechCrunch Disrupt 上表示,只要用得"正确",AI 在电影业有一席之地,他计划在即将开拍的 Pete Rose 传记片中用 AI 增强球场场景等细节,但反对用 ChatGPT 生成剧本并取代真人演员。
前 OpenAI 研究员 Nick Cammarata 发文重新解读经典案例,认为 InceptionV1 中著名的猫脸-车头神经元其实是 V 形检测器,并非叠加假说的证据;他提出递归泛化概念,并在 Qwen3-32B 上给出约 90% 神经元只有一个主要功能、仅 2-4% 无法解释的初步数据。
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上提出“自动驾驶公司”愿景,称 AI agent 将承担公司大部分基础工作,而人类因判断力和品味变得更受重视。