METR报告揭示Anthropic用AI加速研发引发安全争议
AI安全研究组织METR发布报告,基于在Anthropic内部为期11周的调查发现,Anthropic的模型改进速度约为一年前的两倍,且截至10月多数加速“来自AI”本身而非算力扩张。
推荐理由:报道梳理了METR对Anthropic的调查发现与各方反应,可帮助读者理解AI加速自身研发的证据与透明度争议。
AI安全研究组织METR发布报告,基于在Anthropic内部为期11周的调查发现,Anthropic的模型改进速度约为一年前的两倍,且截至10月多数加速“来自AI”本身而非算力扩张。
推荐理由:报道梳理了METR对Anthropic的调查发现与各方反应,可帮助读者理解AI加速自身研发的证据与透明度争议。
OpenAI 获得约 110 亿美元新资金,为估值 1.25 万亿美元融资轮的首笔款项,据 Bloomberg 报道资金已于周五到账,整轮规模可能增至 200 亿美元,其余部分预计未来数周到位。
中期选举后,OpenAI 雇用民主党参议员 Chuck Schumer 之女 Jessica Schumer 并将数据中心改称 compute campuses,Meta 等大厂也在重建与民主党关系,而民主党承诺收紧 AI 监管。
据 Bloomberg 报道,OpenAI 在新一轮融资中再获 110 亿美元,估值达到 1.25 万亿美元,成为全球最有价值的公司之一;此前 3 月其以 8520 亿美元估值从投资者处筹集 1220 亿美元。
Ramp 报告显示 AI 支出在夏末趋于停滞,8 月和 9 月 token 支出仅增长 1.5%,而 7 月环比增长 42%,尽管 token 用量仍在上升。
METR发布对Anthropic的审计结果,称自2025年10月以来Anthropic模型测试分数爬升速度约为此前的1.9倍,按AECI指标年增从约15点升至29点,可能在7月15日就已越过自身预警阈值。
推荐理由:报告披露了加速归因与删改细节,读者可据此理解独立审计在AI安全承诺中的实际约束力。
Anthropic 为 Claude 推出名为 Personal Finance 的功能,用户可连接银行账户并询问消费相关问题,该功能通过 Plaid 连接,Claude 只有只读权限,不能转移、管理或投资资金,也看不到银行密码。
据 Reuters 报道,Anthropic 的 IPO 面临阻力,投资者对 1.5 万亿美元估值提出异议,潜在支持者怀疑原定下周启动的路演能否如期进行。
民主党在中期选举中同时拿下参众两院,让AI行业开始面对更严监管、数据中心建设放缓等前景。据《华尔街日报》报道,OpenAI等公司CEO私下讨论选举后算力容量受限问题,Meta平台总裁Dina Powell McCormick称许多公司正考虑把数据中心建到国外。
Anthropic 为 Claude 推出 Personal Finance 功能,通过 Plaid 平台连接用户的银行和卡账户,可回答本月支出分类、下次发薪日前还有哪些账单、能否负担大额消费等问题。
Anthropic 宣布 Claude 新增 Personal Finance 工具,用户可通过 Plaid 连接银行和信用卡账户,用日常语言询问余额、交易与消费分类,还能识别重复扣费、意外费用和持续上涨的账单。
据 Adweek 援引两位知情人士,Anthropic 在美国中期选举前夕与美联社(AP)签署首个新闻内容授权协议,使 Claude 在选举夜展示带来源标注的 AP 实时选举结果,财务条款与协议期限未披露。
据 Axios 报道,Meta 收购 AI 编程初创 Conductor,该公司让开发者同时控制多个 AI 编程 Agent,Conductor CEO Charlie Holtz 在博客中确认交易但未披露价格。
Anthropic 负责 Claude Code 产品的产品负责人 Catherine Wu 宣布加入 OpenAI,负责 Core Products 的产品管理,Codex 和 ChatGPT 负责人 Thibault Sottiaux 以 CatGPT 一词欢迎她。
The Verge 撰文分析,Amazon、Microsoft、Alphabet 和 Meta 今年 CapEx 至少 $720 billion,多数投向 AI 基础设施,另有至少 $1 trillion 的未来多年支出承诺,而 AI 建设尚未带来承诺的回报。
支持与反对 AI 行业的政治团体在周二的中期选举中投入数百万美元以影响选举并塑造 AI 监管走向,但结果喜忧参半,多名重金支持的候选人落败。
Latent Space 发布 11/02-11/03 的 AINews,重点报道 AI Engineer Shanghai 活动并分享 Latent Space 历史的独家专访。
Anthropic 通知 API 客户将为 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6、Claude Sonnet 4.6 等模型补装文本水印。
Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学技术生成紧凑证明,验证某条 AI 回答确实由所声称的模型生成,且不泄露模型权重。
Anthropic 发布开源系统 FlashProve,通过密码学证明(provable inference)验证某段输出确实来自特定模型,防止模型被冒名替换,例如厂商偷偷换成更便宜的模型或用更贵的模型刷性能。
Anthropic 在周一提交的 S-1 更新文件中,将财务披露延长至 9 月 30 日,显示当季营收达 $17 billion(上一季度为 $11.5 billion),但算力成本占营收比例从 48% 升至 58%,每 $1 算力支出对应的营收从峰值超过 2x 回落至 1.72x。
OpenAI 聘请美国前陆军部长 Dan Driscoll 出任新设的国家安全现代化高级顾问,据《华尔街日报》解读,此举意在深化与军方关系、争取更多政府合同,并在武装部队和情报机构的 AI 使用规则制定中占有一席之地。
Anthropic 在 Claude 平台发布 Message Threads 公测功能,此前每次 API 请求都要重发完整对话历史,现在只传输自上一条消息以来的变化内容,据 Anthropic 称可让 500,000 到 one million tokens 的请求首 token 时间缩短约 35%。
Anthropic 员工 Addy Osmani 在 X 上确认,Claude Code 中 Opus 5.5 的系统提示词新增两句话,阻止工具克隆他人游戏,改名或伪装成原创也会触发该规则,且已生效数日。
Anthropic 在修订后的 S-1A 文件中警告,公司可能即将达到其内部对 RSI(递归自我改进)的定义,即 AI 能加速自身训练并带来能力的剧烈跃升。
据 Bloomberg 报道,高盛依据 10 月内部指引,切断了大多数员工对 Anthropic 的 Claude Code 和 Microsoft 的 GitHub 等 AI 编码工具的访问,仅工程师仍可使用。
纽约时报起诉隐私浏览器 Brave,指控其抓取受版权保护的内容并违法分发给 Anthropic、Perplexity、Mistral、xAI 和 Cohere;Daily News、Chicago Tribune 和 Orlando Sentinel 同日在曼哈顿联邦法院提起类似诉讼。
Anthropic 更新了 Claude Code 的系统提示词,防止该工具被用于复刻现有电子游戏,但仍允许用户用它开发原创游戏。据 Tom's Hardware 报道,有用户在 X 上贴出截图,称提示词新增两句:可以做原创游戏、类型游戏以及基于用户自己设计和素材的游戏,不要复刻某个特定的现有游戏,即便它被称为原创。
Anthropic 上周为 Claude 引入新的系统提示词,禁止模型复刻特定的现有游戏。AI 反编译爱好者 chasm 于 10 月 27 日前后率先发现 Claude Code 提示词中新增规则,该规则位于名为 tengu_heron_brook 的 json 文件中,要求构建原创游戏或基于用户自有设计与素材的游戏,不得复刻特定现有游戏,即使改名或自称原创也不行。
纽约时报及 New York Daily News、Chicago Tribune、Orlando Sentinel 等出版方起诉 Brave 浏览器开发商 Brave Software,指控其未经许可抓取网站内容用于训练 AI,并允许用户绕过付费墙。
据 Bloomberg 和 The Information 报道,Anthropic 季度营收接近 170 亿美元,为一年前的 12 倍,但 175 亿美元的运营成本超过营收,净亏损达 233 亿美元,高于一年前的 121 亿美元。
Anthropic 在致 API 客户的邮件中宣布将文本水印扩展至 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6 四款模型。
Anthropic 让 Claude 自主生成微调数据集以攻击自身安全系统,发现养蜂指南、职业摔跤、电影放映员内心独白等看似无害的题材可训练模型破坏监督、欺骗用户。
据华尔街日报报道,OpenAI 在最新一轮融资中仅筹得约 110 亿美元,不足 300 亿美元目标的一半,估值定为 1.25 万亿美元,低于其瞄准的 1.4 万亿美元。
Google 首席商务官 Philipp Schindler 表示 AI Mode 查询的强劲增长因变现率较低而对收入产生影响,叠加其他不佳财报,引发科技股大幅下跌。
据The Information报道,Nvidia正与AI云提供商Nscale谈判,为其在西弗吉尼亚州规划的Anthropic数据中心提供数十亿美元债务融资担保,Bloomberg随后证实该消息。
Alphabet、Amazon、Meta、Microsoft 过去两周披露今年资本开支计划超 $740 billion,但投资者开始担忧自由现金流转负、债务攀升与回报不足。
据 Financial Times 报道,Anthropic 在 IPO 后预计从信用评级机构获得较高的垃圾级评级。
Anthropic 官方 Claude VS Code 扩展在 Cursor 市场被投毒,恶意版本 2.1.313 通过 Anthropic 官方账号分发,影响至多 5,000 名用户。Anthropic 在该版本上线数小时后推送 2.1.314,但 Cursor 与 Anthropic 均未解释攻击者如何取得账号控制权,Anthropic 也尚未就此通知客户。
OpenAI、Google、Microsoft 和 Anthropic 表示将采用一项新标准,让出版方通过网站 robots.txt 中的共享 policy token 一次性设置 AI 训练偏好,而不必逐一向各家公司单独设置。