跳到正文
热点事件持续更新

OpenAI发布CSAM分类器与ChatGPT封禁机制

2 篇报道2 个报道来源5 小时前更新

先了解这件事

AI 综述

OpenAI宣布推出一套打击儿童性虐待材料(CSAM)的新工具:一款可检测含AI生成CSAM图像的分类器、ChatGPT中的警告屏与账号封禁机制,以及面向开发者和执法部门的指南与工具。分类器通过API向经审核的组织和选定公司免费提供,访问由项目管理员管理。 对尝试此类提示的用户,ChatGPT会显示警告、引导其获取专业支持,并首次违规即暂停访问24小时;OpenAI称重复违规可能导致账号被永久移除。OpenAI称该分类器可更好检测儿童受虐图像并识别其是否由AI生成。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 发布可识别AI生成儿童性虐待材料的分类器

    OpenAI 在华盛顿的发布会上宣布一款分类器,可更好检测儿童受虐图像并识别其是否由 AI 生成,向经审核的组织免费开放,同时为开发者提供检测指导并协助培训执法人员。

  2. TechCrunch · AI
    OpenAI 发布检测 CSAM 的图像分类器与 ChatGPT 警告机制

    OpenAI 宣布推出一套打击儿童性虐待材料(CSAM)的新工具,包括可检测含 AI 生成 CSAM 图像的新图像分类器、ChatGPT 中的警告屏与账号临时封禁、面向开发者的指南以及供执法部门使用的工具。

本事件热度走势

可比范围当前
17
可比范围峰值
1911月17日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。