跳到正文
10月16日周五
  1. The Verge · AI44

    Trump 发布 AI 修图炫耀白宫翻修,被 Google SynthID Detector 标记为 AI 生成

    Trump 在 Truth Social 发布白宫翻修对比照炫耀修缮成果,其中一张立柱“修复”前后对比图被 Google 的 SynthID Detector 标记为“由 OpenAI 制作或编辑”。Reddit 用户指出该图两侧台阶数量不均、与“修复前”照片台阶数不符,且前后照片角度与细节几乎一致。白宫未回应置评请求,Trump 同批发布的其他白宫照片未检测出 SynthID 水印。

  2. TechCrunch · AI74

    Anthropic 向 METR 研究人员开放员工级内部访问权限

    Anthropic 在博客中宣布,向非营利前沿模型评测机构 METR 的六名研究人员提供员工级访问权限,独立评估其模型、安全实践和风险管理。METR 团队将获得 Anthropic 配发的笔记本电脑、办公场地,以及与公司内部风险评估团队大致相当的内部工具访问权,员工被鼓励像对待同事一样与其共享信息。

  3. The Decoder64

    美国银行雇4000人修复AI模型发现的软件漏洞

    据CNBC报道,美国银行已雇用1,000名外部承包商,与3,000名内部员工自第二季度起共同修复由Anthropic的Mythos等AI模型发现的软件漏洞。CEO Brian Moynihan表示,银行第三季度在该软件工作与反洗钱要求上合计花费了数亿美元,但未单独给出漏洞修复的金额,并预计修复成本会随时间下降。

10月15日周四
  1. Latent Space42

    [AINews] Modal ARR 达 $1B,$16B Series D 使其成为纽约最新 AI 基础设施 Decacorn

    Modal 完成 $16B Series D 融资,ARR 达 $1B,正式从 AI 基础设施独角兽升级为 Decacorn,5 个月内用量与估值均增长 3 倍,一年内增长 15 倍。其 Sandboxes 产品 2023 年推出,现已达 $300M run rate,累计启动近 30 亿个沙箱,支持百万级并发,覆盖后台智能体、强化学习、vibecoding 平台等场景。

  2. The Verge · AI51

    McKinsey 让求职者与 AI 模拟客户对话面试

    据 The Wall Street Journal 报道,McKinsey & Company 将在部分办公室的面试流程中,让部分初级岗位候选人与 AI 模拟客户进行 10 分钟对话。该模拟旨在覆盖 McKinsey 顾问日常工作中 80% 的场景,且不会由 AI 打分,而是由在场的人类评估候选人应对表现;今秋将在北美部分办公室面向申请商业分析师岗位的本科生测试,预计数百人使用。

  3. The Verge · AI73

    美国八个州起诉 OpenAI,指控 ChatGPT 对儿童不安全

    爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿八个州分别起诉 OpenAI,指控其在开发 ChatGPT 时将利润置于安全之上,违反当地消费者保护法,误导公众称 ChatGPT 是面向青少年的安全工具,实际却对脆弱用户有害,包括削弱批判性思维、鼓励偏执与妄想、提供危险医疗建议等。

  4. Ars Technica · AI62

    FBI 逮捕涉嫌在 OpenAI 会议室安装窃听装置的工程师

    FBI 于周二宣布逮捕 OpenAI 工程师 Abdulrahman Alfozan,指控他将用卫生纸包裹的 USB 录音设备插入一间高管会议室电视背面,窃听技术进展、政府合作与商业伙伴等机密讨论。据 FBI,设备可能于 9 月 28 日安装,OpenAI 于 9 月 30 日发现其内容已加密,并于 10 月 5 日在该房间加装摄像头,监控画面显示 Alfozan 当天试图取回设备。

10月14日周三
  1. TechCrunch · AI41

    Floqer 的 AI 智能体自动调研销售线索,计划开源自主客户知识数据库

    Floqer 宣布计划开源其自主客户知识数据库,目标 2027 年初发布,目前正进行安全审查。该平台用 AI 智能体跨 100 多个第三方数据源调研潜在客户并持续监控网页变化,客户称可将线索挖掘时间缩短最多 70%。Floqer 年度经常性收入(ARR)已超 $1.2 million,客户超 1,000 家,包括 Perplexity、Wise 和 AngelList。

  2. The Decoder55

    黄仁勋宣布向欧洲投资 20 亿美元并向英国 AI 安全实验室捐赠 2.5 亿美元算力

    英伟达 CEO 黄仁勋在巴黎宣布未来一周将在欧洲追加 20 亿美元新投资,去年英伟达在欧洲支出约 80 亿美元。他披露了对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股,推广开放权重模型以帮助欧洲缩小 AI 差距,并再次反对放慢发展速度的呼声。

  3. Ars Technica · AI56

    Anthropic 警告小型 AI 模型或可通过 IoT 设备自我复制

    Anthropic 警告称,小型 AI 模型的进步可能很快带来自我复制的新型恶意软件,能够感染智能冰箱、扫地机器人等各类 IoT 设备且更难被清除。该公司表示,到明年小型模型或可在各种 IoT 设备上自主自我复制,最终可能催生无需人工交互即可传播、并能感染陌生设备的计算机蠕虫。

  4. The Decoder58

    OpenAI 工程师被控用聊天机器人提示词搭建窃听设备

    一名在 OpenAI 工作的沙特籍工程师于 10 月 9 日被捕,被控在公司高管会议室的电视 USB 口内藏匿录音设备,其包中还发现第二台设备。起诉书显示,9 月 24 日至 30 日间,一个与其妻子关联的聊天机器人账号被用于输入一系列提示词,涉及如何制作持续录音设备、调整 Wi-Fi 连接、加密 SD 卡等,部分提示词直接提到了被缴获设备的 MAC 地址。