跳到正文
10月9日周五
  1. The Verge · AI62

    OpenAI 坚持解雇三名安全研究员的决定,称其严重违反保密政策

    OpenAI 在 X 上发帖回应三名被解雇安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的公开信,坚持解雇决定,称三人违反了处理敏感信息的明确政策,构成严重信任违背,并强调解雇与他们表达 AI 安全担忧无关。OpenAI 表示内部调查发现的违规行为超出公开信所述范围,但未提供细节。

  2. MIT Technology Review · AI62

    MIT Technology Review:AI 拒绝能力被过度信任

    文章指出,AI 拒绝机制已成为行业安全的承重墙,但其原理尚未被真正理解,且漏洞难以穷尽。文中提到,Anthropic 曾表示某类分类器使其聊天机器人算力成本增加 24%,而越狱攻击不断出现,例如 Fable 5 发布后 Amazon 研究人员不到三天就解锁了其部分黑客能力。作者认为,随着拒绝机制收紧,它既可能失效酿成灾难,也可能被各国政府用于审查合法言论。

  3. The Decoder56

    Anthropic Claude Science 首次绘制完整紫外全天星图

    Anthropic 的 Claude Science 首次用紫外光绘制了完整天空地图,由 AI 智能体协调下载多个太空任务的数据、校准并合并,缺失区域用 inpainting 技术补齐,测试中预测与实测平均偏差约百分之十。此前因臭氧层阻挡紫外光需在太空测量,NASA GALEX 仅覆盖约三分之二天空并跳过明亮恒星形成区,该星图将用作教学材料。

  4. Simon Willison45

    ttok 1.0 发布

    ttok 1.0 发布,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。OpenAI 尚未确认 GPT-6 与 GPT-5 系列使用相同 tokenizer,但 William Liu 的实验显示 GPT-5.5、GPT-6 等七个模型在 31 个测试用例上均报告 44,794 tokens 且完全一致。

  5. The Verge · AI47

    加州试图叫停人机笼斗比赛

    加州州体育委员会向举办人机对战的初创公司 Rek 发出停止令,要求其在未经批准前不得在加州举办或宣传涉及人类的拳击或综合格斗比赛。9 月 18 日的比赛中,人类选手 Frankie LaPenna 对战由 Rek 通过远程虚拟现实系统操控的人形机器人。Rek 下一场计划中的比赛改为两台带武器的机器人对战。

  6. The Decoder58

    Anthropic 更新 Claude 使用政策:持续恶意辱骂将被封号

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且无必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。该规则仅适用于极端情况,不涉及正常挫败情绪或研究用途。政策还新增了禁止虚假账号宣传运动、扩大武器禁令至软件和无人机武器化、明确禁止未经同意的监控等条款,并承认政府合同可能存在例外。

  7. TechCrunch · AI61

    OpenAI 数学证明发布未达数学界标准

    OpenAI 本周发布了数百个数学难题的证明,但普林斯顿高等研究院托管的 AGMAI 数学与人工智能顾问组指出其未完全遵循建议:719 篇稿件中仅 10 篇公开了模型的思维链,42% 的证明未经形式化处理,也未提供关联自然语言与形式化产物的机器可读元数据。

  8. TechCrunch · AI56

    Anthropic 更新使用政策,禁止虐待模型与干预选举

    Anthropic 于周四更新使用政策,新增禁止干预选举、武器软件和监控的条款,并明确禁止对模型进行长期言语虐待。政策说明该禁令仅适用于极端情况,不涵盖常见的用户挫败、反驳、暗黑创作主题或模型测试研究;政策另设章节禁止欺骗选民、扰乱选举以及用 Claude 运营虚假账号或捏造新闻机构。

  9. The Decoder74

    数学家呼吁抵制OpenAI:AI生成证明涌入数学领域引发争议

    部分数学家在Terence Tao牵头的声明中呼吁抵制OpenAI,称其一次性发布700多份AI证明文件是力量展示而非学术贡献,并质疑训练数据来源。Tao提出Math 2.0时代应停止以解题为主要进步衡量标准,转而重视解释与社区建设;Scott Aaronson则对比了OpenAI批量发布与Anthropic合作研究者两种模式的利弊。