OpenAI：前沿风险与准备度
OpenAI 正在开发应对灾难性风险的准备度方法，包括组建 Preparedness 团队并发起一项挑战，以支持高能力 AI 系统的安全。
#OpenAI
OpenAI NewsAI 评分4545
OpenAI NewsAI 评分3131 Frontier Model Forum 更新：新任执行主任与 1000 万美元 AI 安全基金
OpenAI 与 Anthropic、Google、Microsoft 联合宣布 Frontier Model Forum 新任执行主任，并推出 1000 万美元 AI Safety Fund。该基金由四家共同发起，用于支持人工智能安全相关研究与项目。
Hugging Face BlogAI 评分5757 Hugging Face 复现 OpenAI RLHF 代码库并梳理 PPO 实现细节
Hugging Face 发布博客，复现 OpenAI 2019 年的 RLHF 代码库 openai/lm-human-preferences，在 sentiment 和 descriptiveness 等风格任务上得到与原版几乎一致的学习曲线，并整理出一份实现细节清单。
OpenAI NewsAI 评分5555 DALL·E 3 在 ChatGPT Plus 和 Enterprise 中上线
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用，并表示为面向更广泛发布准备 DALL·E 3 构建了一套安全缓解体系，同时分享了来源研究（provenance research）的更新。
OpenAI NewsAI 评分1818 Retool 用 GPT-4 帮企业快速构建 AI 应用
Retool 使用 GPT-4 为企业提供快速、安全的 AI 应用构建方式。
OpenAI NewsAI 评分1313 Ironclad 用 GPT-4 简化合同审查流程
Ironclad 使用 GPT-4 简化合同审查流程。
OpenAI NewsAI 评分2222 Typeform 用 GPT-3.5 和 GPT-4 将在线表单升级为动态数据收集
Typeform 借助 GPT-3.5 和 GPT-4 将在线表单升级为动态、对话式的数据收集体验。
OpenAI News精选AI 评分7070 OpenAI 发布 GPT-4V(ision) 系统卡
OpenAI 发布 GPT-4V(ision) 系统卡，介绍 GPT-4V 的相关信息。
OpenAI News精选AI 评分7575 ChatGPT 新增视觉、听觉与语音能力
OpenAI 官方宣布 ChatGPT 现在可以看、听和说，即支持图像输入、音频理解与语音输出能力。
OpenAI NewsAI 评分2929 OpenAI Red Teaming Network 公开招募
OpenAI 宣布面向公众开放 OpenAI Red Teaming Network 的招募，邀请关注模型安全的各领域专家加入，共同提升 OpenAI 模型的安全性。
OpenAI NewsAI 评分88 OpenAI 在爱尔兰都柏林设立新办公室
OpenAI 宣布在爱尔兰都柏林设立新办公室，以扩大其在欧洲的业务布局。这是 OpenAI 在欧洲扩张的最新动作，此前其已在伦敦设有办公室。
OpenAI NewsAI 评分4444 OpenAI 首届开发者大会将于 11 月 6 日在旧金山举行
OpenAI 宣布首届开发者大会将于 11 月 6 日在旧金山举行，现场开发者报名将在未来几周内开放，全球开发者均可通过直播观看主题演讲。
OpenAI NewsAI 评分4444 OpenAI 发布教师使用 ChatGPT 教学指南
OpenAI 发布了一份教师在课堂上使用 ChatGPT 的指南，内容包括建议的提示词、ChatGPT 的工作原理与局限性说明、AI 检测工具的有效性以及偏见问题。
OpenAI News精选AI 评分6666 OpenAI 发布 ChatGPT Enterprise
OpenAI 发布 ChatGPT Enterprise，称其提供企业级安全与隐私保护，以及迄今最强大的 ChatGPT 版本。
OpenAI NewsAI 评分3838 OpenAI 与 Scale 合作，为企业微调模型提供支持
OpenAI 与 Scale 达成合作，企业客户可通过 Scale 的 AI 专业能力定制 OpenAI 最先进的模型。Scale 将为企业微调模型提供支持服务。
OpenAI NewsAI 评分5858 OpenAI 开放 GPT-3.5 Turbo 微调及 API 更新
OpenAI 宣布开发者现在可以使用自己的数据对 GPT-3.5 Turbo 进行微调，以适配具体用例，同时发布了相关 API 更新。
OpenAI NewsAI 评分5555 OpenAI 用 GPT-4 进行政策制定与内容审核
OpenAI 用 GPT-4 进行内容政策制定和内容审核决策，使标注更一致、政策优化的反馈循环更快，并减少人工审核员的参与。
OpenAI NewsAI 评分4343 OpenAI 成立 Frontier Model Forum 推动前沿 AI 安全发展
OpenAI 联合多家公司成立新行业组织 Frontier Model Forum，旨在推动前沿 AI 系统的安全与负责任发展。该组织将推进 AI 安全研究、识别最佳实践与标准，并促进政策制定者与行业之间的信息共享。
OpenAI NewsAI 评分4545 OpenAI 推进 AI 治理：与领先实验室共同作出自愿性承诺
OpenAI 与其他领先实验室通过自愿性承诺，共同加强对 AI 安全性、安全性与可信度的保障。
OpenAI NewsAI 评分5858 ChatGPT 推出自定义指令功能
OpenAI 官方宣布为 ChatGPT 推出自定义指令（custom instructions）功能，用户可设置自己的偏好，ChatGPT 在之后的所有对话中都会记住这些偏好，从而让用户对回复方式有更多控制。
OpenAI NewsAI 评分2020 OpenAI 与 American Journalism Project 合作支持本地新闻
OpenAI 宣布与 American Journalism Project 建立一项 500 万美元以上的合作，探索人工智能如何支持本地新闻业的发展与创新，并确保本地新闻机构参与塑造这项新兴技术的未来。
OpenAI NewsAI 评分1515 Viable 用 GPT-4 大规模分析定性数据
Viable 使用 GPT-4 以革命性的规模和无与伦比的准确性分析定性数据。
OpenAI NewsAI 评分1818 OpenAI 分享全球 22 国对话的洞察
OpenAI 分享了在 22 个国家开展对话交流后获得的洞察，以及后续将如何把这些洞察融入工作。
OpenAI NewsAI 评分2929 OpenAI 宣布在伦敦设立首个海外办公室
OpenAI 宣布在英国伦敦设立新办公室，这是其首次国际扩张。
OpenAI News精选AI 评分6767 OpenAI 为 API 推出函数调用、更长上下文与降价等更新
OpenAI 宣布多项 API 更新，包括更具可控性的 API 模型、函数调用能力、更长上下文以及更低价格。
Hugging Face BlogAI 评分5757 Hugging Face 研究：GPT-4 评测与人类标注的相关性及偏差
Hugging Face 扩展 Open LLM Leaderboard，用 Scale AI 人类标注与 GPT-4 评测对比 Koala 13b、Vicuna 13b、OpenAssistant 12b、Dolly 12b 等开源模型在 327 条指令 prompt 上的表现。
OpenAI NewsAI 评分2828 OpenAI Cybersecurity Grant Program
OpenAI 推出 Cybersecurity Grant Program，通过资助及其他支持推动 AI 驱动的网络安全能力建设，服务对象为防御方。该项目旨在帮助防御者开发基于 AI 的网络安全能力。
OpenAI News精选AI 评分6666 OpenAI 用过程监督提升数学推理并取得新 SOTA
OpenAI 训练的模型通过奖励每一步正确的推理过程（过程监督）而非仅奖励最终答案（结果监督），在数学问题求解上取得新的 SOTA。原文指出过程监督除提升性能外，还能直接训练模型产出经人类认可的 chain-of-thought，带来对齐层面的收益。
推荐理由：原文对比了过程监督与结果监督的差异，读者可据此理解奖励每一步推理对性能和对齐的双重作用。
OpenAI NewsAI 评分4444 OpenAI 推出民主化 AI 决策实验资助计划
OpenAI, Inc. 启动一项计划，将发放十笔各 $100,000 的资助，用于资助在法律界定范围内为 AI 系统应遵循何种规则建立民主决策流程的实验。
OpenAI NewsAI 评分4545 超级智能的治理
OpenAI 提出现在是开始思考超级智能治理的合适时机，超级智能指未来能力远超 AGI 的 AI 系统。
OpenAI News精选AI 评分7575 OpenAI 发布 ChatGPT iOS 应用
OpenAI 发布 ChatGPT iOS 应用，官方介绍该应用可同步对话、支持语音输入，并把最新的模型改进带到移动端。
推荐理由：官方点明了同步、语音输入和最新模型三项能力，读者可据此判断移动端与网页端的差异。
OpenAI NewsAI 评分5151 OpenAI 用 GPT-4 解释 GPT-2 神经元并开源数据集
OpenAI 用 GPT-4 自动为大语言模型中的神经元行为撰写解释并打分，并发布了 GPT-2 中每个神经元的解释与评分数据集（作者自述这些解释并不完美）。
OpenAI NewsAI 评分5656 ChatGPT 新增关闭聊天历史与数据训练控制功能
ChatGPT 用户现在可以关闭聊天历史，从而选择哪些对话可用于训练 OpenAI 的模型。
OpenAI NewsAI 评分3838 OpenAI 推出 Bug Bounty 漏洞赏金计划
OpenAI 宣布推出 Bug Bounty 漏洞赏金计划，邀请外部安全研究者帮助发现其技术和服务中的安全漏洞。OpenAI 表示，该计划是其致力于开发安全、先进 AI 的重要一环，需要外界协助打造安全、可靠、可信赖的技术与服务。
OpenAI NewsAI 评分88 OpenAI 的 AI 安全方法
OpenAI 阐述了其 AI 安全方法，指出确保 AI 系统被安全地构建、部署和使用对其使命至关重要。
OpenAI NewsAI 评分4040 ChatGPT 3 月 20 日宕机事件：问题原因与处理进展
OpenAI 公布了 3 月 20 日 ChatGPT 宕机事件的调查结果、已采取的措施以及该 bug 的技术细节。此次事件为 ChatGPT 服务中断，OpenAI 已完成问题定位并对外披露修复情况。
OpenAI News精选AI 评分7777 OpenAI 为 ChatGPT 推出插件功能
OpenAI 官方宣布已在 ChatGPT 中实现插件的初始支持。这些插件是专为大语言模型设计的工具，以安全为核心原则，可帮助 ChatGPT 获取最新信息、运行计算或调用第三方服务。
推荐理由：官方说明了插件的设计出发点，读者可据此理解 ChatGPT 如何接入实时信息与外部服务。
OpenAI NewsAI 评分5252 OpenAI 发布 GPTs are GPTs：大语言模型对劳动力市场影响的早期观察
OpenAI 发布题为 GPTs are GPTs 的研究，早期观察大语言模型对劳动力市场的潜在影响。材料抓取失败，仅标题可用，正文内容缺失。
OpenAI NewsAI 评分3434 冰岛如何用 GPT-4 保存语言
OpenAI 介绍了冰岛如何使用 GPT-4 来保存其语言。文章聚焦于 GPT-4 在冰岛语保护中的应用方式。
OpenAI NewsAI 评分4545 Be My Eyes 用 GPT-4 改变视觉无障碍体验
Be My Eyes 使用 GPT-4 改变视觉无障碍体验。