OpenAI 推进 AI 治理:与领先实验室共同作出自愿性承诺
OpenAI 与其他领先实验室通过自愿性承诺,共同加强对 AI 安全性、安全性与可信度的保障。
OpenAI 与其他领先实验室通过自愿性承诺,共同加强对 AI 安全性、安全性与可信度的保障。
OpenAI 官方宣布为 ChatGPT 推出自定义指令(custom instructions)功能,用户可设置自己的偏好,ChatGPT 在之后的所有对话中都会记住这些偏好,从而让用户对回复方式有更多控制。
OpenAI 宣布与 American Journalism Project 建立一项 500 万美元以上的合作,探索人工智能如何支持本地新闻业的发展与创新,并确保本地新闻机构参与塑造这项新兴技术的未来。
Viable 使用 GPT-4 以革命性的规模和无与伦比的准确性分析定性数据。
OpenAI 分享了在 22 个国家开展对话交流后获得的洞察,以及后续将如何把这些洞察融入工作。
OpenAI 宣布在英国伦敦设立新办公室,这是其首次国际扩张。
OpenAI 宣布多项 API 更新,包括更具可控性的 API 模型、函数调用能力、更长上下文以及更低价格。
Hugging Face 扩展 Open LLM Leaderboard,用 Scale AI 人类标注与 GPT-4 评测对比 Koala 13b、Vicuna 13b、OpenAssistant 12b、Dolly 12b 等开源模型在 327 条指令 prompt 上的表现。
OpenAI 推出 Cybersecurity Grant Program,通过资助及其他支持推动 AI 驱动的网络安全能力建设,服务对象为防御方。该项目旨在帮助防御者开发基于 AI 的网络安全能力。
OpenAI 训练的模型通过奖励每一步正确的推理过程(过程监督)而非仅奖励最终答案(结果监督),在数学问题求解上取得新的 SOTA。原文指出过程监督除提升性能外,还能直接训练模型产出经人类认可的 chain-of-thought,带来对齐层面的收益。
推荐理由:原文对比了过程监督与结果监督的差异,读者可据此理解奖励每一步推理对性能和对齐的双重作用。
OpenAI, Inc. 启动一项计划,将发放十笔各 $100,000 的资助,用于资助在法律界定范围内为 AI 系统应遵循何种规则建立民主决策流程的实验。
OpenAI 提出现在是开始思考超级智能治理的合适时机,超级智能指未来能力远超 AGI 的 AI 系统。
OpenAI 发布 ChatGPT iOS 应用,官方介绍该应用可同步对话、支持语音输入,并把最新的模型改进带到移动端。
推荐理由:官方点明了同步、语音输入和最新模型三项能力,读者可据此判断移动端与网页端的差异。
OpenAI 用 GPT-4 自动为大语言模型中的神经元行为撰写解释并打分,并发布了 GPT-2 中每个神经元的解释与评分数据集(作者自述这些解释并不完美)。
ChatGPT 用户现在可以关闭聊天历史,从而选择哪些对话可用于训练 OpenAI 的模型。
OpenAI 宣布推出 Bug Bounty 漏洞赏金计划,邀请外部安全研究者帮助发现其技术和服务中的安全漏洞。OpenAI 表示,该计划是其致力于开发安全、先进 AI 的重要一环,需要外界协助打造安全、可靠、可信赖的技术与服务。
OpenAI 阐述了其 AI 安全方法,指出确保 AI 系统被安全地构建、部署和使用对其使命至关重要。
OpenAI 公布了 3 月 20 日 ChatGPT 宕机事件的调查结果、已采取的措施以及该 bug 的技术细节。此次事件为 ChatGPT 服务中断,OpenAI 已完成问题定位并对外披露修复情况。
OpenAI 官方宣布已在 ChatGPT 中实现插件的初始支持。这些插件是专为大语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、运行计算或调用第三方服务。
推荐理由:官方说明了插件的设计出发点,读者可据此理解 ChatGPT 如何接入实时信息与外部服务。
OpenAI 发布题为 GPTs are GPTs 的研究,早期观察大语言模型对劳动力市场的潜在影响。材料抓取失败,仅标题可用,正文内容缺失。
OpenAI 介绍了冰岛如何使用 GPT-4 来保存其语言。文章聚焦于 GPT-4 在冰岛语保护中的应用方式。
Be My Eyes 使用 GPT-4 改变视觉无障碍体验。
Stripe 利用 GPT-4 优化用户体验并打击欺诈。通过接入 GPT-4,Stripe 旨在简化用户使用流程,同时提升反欺诈能力。
GPT-4 深化了 Duolingo 上的对话体验,帮助填补语言学习中的关键空白。
OpenAI 发布 GPT-4,称其为该公司扩展深度学习进程中的最新里程碑。GPT-4 是一个大型多模态模型,接受图像和文本输入、输出文本,在多种专业和学术基准上展现人类水平表现,同时在许多真实场景中仍不及人类。
推荐理由:原文点明了GPT-4的多模态输入能力和基准表现定位,读者可据此理解这一代模型相对前代的关键变化。
Khan Academy 正在一项有限的试点项目中探索 GPT-4 用于虚拟教育的潜力。该项目聚焦 GPT-4 在课堂教学场景中的应用,目前处于小范围测试阶段。
OpenAI 发布 GPT-4,官方介绍称它能在创意与技术写作任务上与用户共同生成、编辑和迭代,例如作曲、编写剧本或学习用户的写作风格。
OpenAI 发布《Planning for AGI and beyond》,阐述其使命是确保通用人工智能(AGI)——即总体上比人类更聪明的 AI 系统——造福全人类。文章围绕 AGI 的规划与更长远的未来展开讨论。
OpenAI 阐明了 ChatGPT 行为的塑造方式,并公布改进该行为、允许更多用户自定义以及在这些决策中获取更多公众意见的计划。
OpenAI 宣布推出 ChatGPT 的试点订阅计划 ChatGPT Plus。ChatGPT 是一款对话式 AI,可以与用户聊天、回答后续问题并质疑不正确的假设。
OpenAI 推出一个经过训练的分类器,用于区分 AI 撰写的文本与人类撰写的文本。
OpenAI 宣布与 Microsoft 延长双方的合作关系。原文仅给出这一核心消息,未披露合作期限、投资金额或具体条款等更多细节。
OpenAI 与 Georgetown University 的 Center for Security and Emerging Technology、Stanford Internet Observatory 合作,发布报告预测大语言模型被滥用于虚假信息活动的潜在风险,并提出分析缓解措施的框架。
Hugging Face 的 AI 游戏开发教程第 2 部分演示如何用 ChatGPT 辅助农场游戏设计,向其提问后得到作物多样性、进阶系统等建议,并灰盒实现前两项。文章随后科普语言模型、Transformer 架构与 RLHF 原理,指出 ChatGPT 会一本正经地给出错误答案(如四元数解释),建议将其作为头脑风暴与加速工具而非替代开发流程。
OpenAI 用 GPT-3 从客户反馈中快速提取细致洞察,帮助企业更快理解用户意见。
OpenAI 通过微调 GPT-3 来驱动并规模化"一站式"视频创作服务。
OpenAI 用 GPT-3 打造新一代 AI 驱动角色。原文仅简要说明以 GPT-3 为基础创建下一代 AI 角色,未给出更多技术细节或数据。
OpenAI 应用 AI 研究团队的 Lilian Weng 探讨了持续学习的价值。文章指出,让模型在部署后继续从新数据和反馈中学习,可使系统随时间不断改进,而非停留在训练完成时的静态能力。
Hugging Face 官方博客介绍如何用 🤗 transformers 调用 CLIPSeg 零样本分割模型,通过文本提示词和图像提示词(visual prompting)生成粗分割掩码。
OpenAI 宣布推出一款全新的 embedding 模型,称其能力显著更强、成本效益更高且使用更简便。原文未披露该模型的名称、参数规模、上下文长度或定价等具体细节。