跳到正文
10月9日周五
  1. MIT Technology Review · AI62

    MIT Technology Review:AI 拒绝能力被过度信任

    文章指出,AI 拒绝机制已成为行业安全的承重墙,但其原理尚未被真正理解,且漏洞难以穷尽。文中提到,Anthropic 曾表示某类分类器使其聊天机器人算力成本增加 24%,而越狱攻击不断出现,例如 Fable 5 发布后 Amazon 研究人员不到三天就解锁了其部分黑客能力。作者认为,随着拒绝机制收紧,它既可能失效酿成灾难,也可能被各国政府用于审查合法言论。

  2. The Decoder56

    Anthropic Claude Science 首次绘制完整紫外全天星图

    Anthropic 的 Claude Science 首次用紫外光绘制了完整天空地图,由 AI 智能体协调下载多个太空任务的数据、校准并合并,缺失区域用 inpainting 技术补齐,测试中预测与实测平均偏差约百分之十。此前因臭氧层阻挡紫外光需在太空测量,NASA GALEX 仅覆盖约三分之二天空并跳过明亮恒星形成区,该星图将用作教学材料。

  3. The Decoder58

    Anthropic 更新 Claude 使用政策:持续恶意辱骂将被封号

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且无必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。该规则仅适用于极端情况,不涉及正常挫败情绪或研究用途。政策还新增了禁止虚假账号宣传运动、扩大武器禁令至软件和无人机武器化、明确禁止未经同意的监控等条款,并承认政府合同可能存在例外。

  4. TechCrunch · AI56

    Anthropic 更新使用政策,禁止虐待模型与干预选举

    Anthropic 于周四更新使用政策,新增禁止干预选举、武器软件和监控的条款,并明确禁止对模型进行长期言语虐待。政策说明该禁令仅适用于极端情况,不涵盖常见的用户挫败、反驳、暗黑创作主题或模型测试研究;政策另设章节禁止欺骗选民、扰乱选举以及用 Claude 运营虚假账号或捏造新闻机构。

  5. The Decoder74

    数学家呼吁抵制OpenAI:AI生成证明涌入数学领域引发争议

    部分数学家在Terence Tao牵头的声明中呼吁抵制OpenAI,称其一次性发布700多份AI证明文件是力量展示而非学术贡献,并质疑训练数据来源。Tao提出Math 2.0时代应停止以解题为主要进步衡量标准,转而重视解释与社区建设;Scott Aaronson则对比了OpenAI批量发布与Anthropic合作研究者两种模式的利弊。

10月8日周四
  1. Latent Space78

    Anthropic 发布 Claude Haiku 5.5,定价对标 GPT-6 Luna

    Anthropic 发布 Claude Haiku 5.5,定价与 OpenAI GPT-6 Luna 完全一致,官方称其为迄今最便宜、最快、最强的小模型,平均运行成本比 Haiku 4.5 低约 75%,同日还下调了 Sonnet 5.5 缓存读取价格($0.20 降至 $0.10 per 1M tokens)。

    推荐理由:汇总了第三方评测的分数与token消耗数据,读者可据此判断低价小模型的真实性价比。

  2. AWS Machine Learning Blog65

    Claude Haiku 5.5 在 Amazon Bedrock 与 Claude Platform on AWS 上线

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,据 Anthropic 介绍它是 Claude 5.5 家族中最快、最高效的模型,面向子智能体和高量低成本任务,多数任务成本比 Claude Haiku 4.5 低约 75%。

    推荐理由:原文给出了成本降幅、effort controls 与 Opus 5.5 分工方式,便于判断何时选用该模型。

10月7日周三
  1. Simon Willison41

    Simon Willison 测试 Claude Opus 5.5 作曲能力

    Simon Willison 让 Claude Opus 5.5 为电脑游戏作曲,要求其设计简单的文本音乐格式并构建可播放的 artifact,附带示例曲目,结果出乎意料地好,风格偏向 Monkey Island 主题。他猜测文本模型作曲能力可能像 3D 图形一样是近几个月新出现的能力,但需对其他新旧模型做实验才能确认。

10月6日周二
  1. Simon Willison62

    Anthropic 改版 Cowork:模型推理与 VM 全部迁至云端

    Anthropic 的 Felix Rieseberg 说明 Cowork 新版把模型推理和 VM 都放到云端运行,每个会话独享沙箱、不与其他会话共享状态,VM 需要设备上的文件时由桌面应用负责该文件访问工具调用。旧版在本地运行 VM 曾带来磁盘、电池和性能开销,且合上笔记本工作就会停止;新版据称可解决手机上使用 Cowork、让工作持续运行以及不因 VM 耗电等问题。

  2. The Verge · AI62

    AI 收购数学领域引发的争议与反弹

    文章回顾了过去一年 OpenAI、Anthropic 等实验室在长期未解数学问题上宣布的突破,包括解决一个著名的 Millennium Prize 问题,但这些结果引发了学界反弹。文中列出多个相关事件小标题,包括 OpenAI 再次发布数学突破、希望就如何避免失误咨询精英数学家、数学家要求证明 OpenAI 未使用其工作,以及 AI 在数学领域的接管引发的危机等。

10月5日周一
10月4日周日
10月3日周六