OpenAI 征集大语言模型经济影响研究意向
OpenAI 发布征集，邀请研究者表达研究大语言模型经济影响的意向。
#OpenAI
OpenAI NewsAI 评分1212 OpenAI NewsAI 评分4040 OpenAI：语言模型安全与滥用的经验教训
OpenAI 分享了其在语言模型安全与滥用方面的最新思考，希望帮助其他 AI 开发者应对已部署模型的安全与滥用问题。
OpenAI NewsAI 评分4444 OpenAI 用 Lean 神经定理证明器求解部分国际数学奥林匹克难题
OpenAI 构建了一个面向 Lean 的神经定理证明器，学会了求解多道有挑战性的高中数学竞赛题，涵盖 AMC12、AIME 竞赛题目，以及两道改编自 IMO 的题目。
OpenAI News精选AI 评分7676 OpenAI 发布 InstructGPT 并设为 API 默认模型
OpenAI 发布 InstructGPT 系列语言模型，称其遵循用户意图的能力优于 GPT-3，同时更真实、毒性更低，采用对齐研究中的人类参与训练技术，现已在 API 中设为默认语言模型。
推荐理由：说明了用人类反馈对齐技术让模型更好遵循指令并降低毒性，可迁移至同类模型训练。
OpenAI NewsAI 评分5050 OpenAI API 推出 text and code embeddings 端点
OpenAI 在 API 中推出 embeddings 新端点，支持对自然语言和代码执行语义搜索、聚类、主题建模与分类等任务。该端点面向文本与代码两类数据，可直接通过 OpenAI API 调用。
OpenAI NewsAI 评分4545 WebGPT：通过网页浏览提升语言模型的事实准确性
OpenAI 微调 GPT-3，使其能通过文本版网页浏览器更准确地回答开放式问题，推出 WebGPT。该方法让模型借助网页浏览检索信息，以提升回答的事实准确性。
OpenAI NewsAI 评分4545 为你的应用定制 GPT-3
OpenAI 提供 GPT-3 微调功能，只需一条命令即可完成微调，让开发者针对自己的应用场景定制模型。
OpenAI NewsAI 评分1818 OpenAI Residency 项目发布
OpenAI 宣布推出 OpenAI Residency 项目，作为其培养和支持 AI 人才计划的一部分。
OpenAI NewsAI 评分5656 OpenAI API 取消等待名单开放使用
OpenAI 宣布其 API 现已无需等待名单即可使用，开放范围更广，官方表示这一变化得益于安全方面的进展。
OpenAI NewsAI 评分5555 OpenAI 训练出接近微调 GPT-3 两倍准确率的小学数学解题系统
OpenAI 训练了一个解小学数学应用题的系统，准确率接近微调 GPT-3 模型的两倍。在数据集抽样测试中，9-12 岁儿童得分为 60%，该系统在同样题目上得分为 55%，约为真实儿童解题量的 90%。
Hugging Face BlogAI 评分3636 用遥感卫星图像与描述微调 CLIP
一个跨 12 个时区的团队在 Hugging Face Flax/JAX Community Week 期间，用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP 模型，使其能用文本查询检索卫星图像。
OpenAI NewsAI 评分5151 OpenAI 用人类反馈总结书籍的研究
OpenAI 发布研究 Summarizing books with human feedback，探讨如何为难以评估的任务扩展对 AI 系统的人类监督。
OpenAI NewsAI 评分3838 Helen Toner 加入 OpenAI 董事会
OpenAI 宣布任命 Helen Toner 加入其董事会。
OpenAI NewsAI 评分5050 OpenAI Codex 改进版通过 API 私有测试版发布
OpenAI 推出改进版 OpenAI Codex——将自然语言翻译为代码的 AI 系统，并于今日起通过 API 以私有测试版（private beta）形式发布。
OpenAI NewsAI 评分4141 OpenAI：通过在精选数据集上微调改进语言模型行为
OpenAI 研究发现，在一个小型精选数据集上微调，可以改进语言模型在特定行为价值观上的表现。该方法只需少量精选数据即可实现对模型行为的定向调整。
OpenAI NewsAI 评分1212 OpenAI Scholars 2021：最终项目
OpenAI 宣布 2021 届 OpenAI Scholars 学员完成为期六个月的导师制项目，并在 OpenAI 的津贴与支持下产出了开源研究项目。
OpenAI NewsAI 评分3333 Will Hurd 加入 OpenAI 董事会
OpenAI 宣布国会议员 Will Hurd 加入其董事会。OpenAI 表示，实现开发造福全人类的通用人工智能这一目标，既需要技术专长，也需要公共政策方面的专业知识。
OpenAI NewsAI 评分4545 GPT-3 驱动下一代应用
超过 300 个应用正通过 OpenAI API 提供 GPT-3 驱动的搜索、对话、文本补全等先进 AI 功能。这些应用覆盖搜索、对话、文本补全等多种场景，均通过 OpenAI API 接入 GPT-3。
OpenAI NewsAI 评分4444 CLIP 中的多模态神经元
OpenAI 发现 CLIP 中存在多模态神经元，对同一概念无论以字面、符号还是概念形式呈现都会产生响应。这一发现可能解释了 CLIP 对概念的意外视觉呈现进行准确分类的原因，也是理解 CLIP 及类似模型所学习的关联与偏见的重要一步。
OpenAI News精选AI 评分7676 OpenAI 发布 CLIP：用自然语言监督连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别的视觉类别名称即可应用于任意视觉分类基准，其零样本能力与 GPT-2 和 GPT-3 类似。
OpenAI News精选AI 评分7878 OpenAI 发布 DALL·E 文本生成图像模型
OpenAI 宣布训练出名为 DALL·E 的神经网络，可根据文本描述为自然语言可表达的广泛概念生成图像。
推荐理由：原文点明了从文本生成图像这一能力方向，读者可据此理解多模态生成的早期定位。
OpenAI NewsAI 评分66 OpenAI 组织架构调整
OpenAI 宣布进行组织架构调整，称过去一年公司经历了剧烈的变化与增长。原文仅披露了这一调整决定，未公布具体涉及的部门、人员或时间安排。
OpenAI News精选AI 评分6565 OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 已同意将 GPT-3 技术授权给 Microsoft，供其用于自家产品和服务。
OpenAI NewsAI 评分4545 用人类反馈强化学习训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其摘要能力更强。
OpenAI NewsAI 评分88 OpenAI Scholars 2020：最终项目展示
OpenAI 第三届 OpenAI Scholars 学员在虚拟 Demo Day 上展示了过去五个月的研究成果。
OpenAI NewsAI 评分1818 OpenAI 联合举办 Procgen 与 MineRL 两项 NeurIPS 2020 竞赛
OpenAI 将与 AIcrowd、Carnegie Mellon University 和 DeepMind 联合举办两项 NeurIPS 2020 竞赛，分别基于 Procgen Benchmark 和 MineRL。
OpenAI NewsAI 评分4141 Image GPT：用 Transformer 生成图像
OpenAI 发现，与训练语言相同的 Transformer 模型在像素序列上训练后，可以生成连贯的图像补全与样本。通过建立样本质量与图像分类准确率的相关性，研究显示其最佳生成模型所含特征在无监督设定下可与顶级卷积网络竞争。
OpenAI News精选AI 评分7777 OpenAI 发布用于访问其新模型的 API
OpenAI 发布 API，供开发者访问 OpenAI 开发的新 AI 模型。
OpenAI News精选AI 评分7878 OpenAI 发布论文《Language models are few-shot learners》
OpenAI 发布论文《Language models are few-shot learners》，探讨语言模型的少样本学习能力。抓取失败，仅标题可用，正文内容缺失。
OpenAI News精选AI 评分6262 OpenAI 开源音乐生成模型 Jukebox
OpenAI 发布 Jukebox，一个能以原始音频形式生成多种音乐流派和歌手风格音乐的神经网络，其中包含初步的歌唱能力。OpenAI 同时开源了模型权重和代码，并提供了一个用于浏览生成样本的工具。
推荐理由：原文说明了模型能生成的音频形态与开放程度，读者可据此判断其可复用性。
OpenAI NewsAI 评分4141 OpenAI 参与撰写提升 AI 开发可验证性的多方报告
OpenAI 参与了由 30 家组织 58 位合著者共同完成的多方报告，报告提出 10 项机制以提升 AI 系统相关声明的可验证性。开发者可用这些机制为 AI 系统的安全、公平与隐私保护提供证据，用户、政策制定者与民间社会则可用其评估 AI 开发流程。
OpenAI NewsAI 评分4141 OpenAI Microscope 发布
OpenAI 推出 OpenAI Microscope，收录了 8 个常用于可解释性研究的视觉"模型生物"中每个重要层和神经元的可视化。该工具让分析神经网络内部形成的特征变得更容易，OpenAI 希望它能帮助研究社区理解这些复杂系统。
OpenAI NewsAI 评分4141 OpenAI 统一采用 PyTorch 作为深度学习框架
OpenAI 宣布将其深度学习框架统一标准化为 PyTorch。原文仅给出这一决定，未披露迁移时间表、涉及的模型或具体技术细节。
OpenAI News精选AI 评分6767 OpenAI 发布神经语言模型缩放定律研究
OpenAI 发布关于神经语言模型缩放定律（Scaling laws for neural language models）的研究，材料抓取失败，仅标题可用，具体内容未提供。
OpenAI NewsAI 评分4141 OpenAI 发布 Procgen Benchmark
OpenAI 发布 Procgen Benchmark，包含 16 个简单易用的程序化生成环境，可直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI NewsAI 评分4444 OpenAI 开源 Safety Gym：用于测量强化学习智能体安全约束的环境与工具集
OpenAI 发布 Safety Gym，一套用于测量强化学习智能体在训练中遵守安全约束进展的环境与工具集。该套件面向训练阶段的安全性评估，帮助研究者量化智能体在满足安全约束方面的进展。
OpenAI News精选AI 评分7272 OpenAI 发布 GPT-2 最大 1.5B 参数版本，完成分阶段发布
OpenAI 发布 GPT-2 最大的 1.5B 参数版本，同时开放代码和模型权重以便利对 GPT-2 输出的检测，这是 GPT-2 分阶段发布的最终模型。作者表示自 8 月以来已有更大的语言模型发布，但仍按原计划推进，希望这一完整分阶段发布流程能为未来强大模型的开发者提供参考，并继续与 AI 社区讨论负责任的发布方式。
推荐理由：原文交代了分阶段发布计划的收尾背景，读者可借此理解负责任发布这一做法的完整流程。
OpenAI News精选AI 评分7272 OpenAI 用机器人手在模拟训练中学会解魔方
OpenAI 训练了一对神经网络，让类人机器人手解开魔方。训练完全在模拟环境中进行，使用了与 OpenAI Five 相同的强化学习代码，并结合一种名为 Automatic Domain Randomization (ADR) 的新技术。系统能应对训练中未见过的情况，例如被毛绒长颈鹿戳碰，表明强化学习可解决物理世界中要求极高灵巧度的问题。
推荐理由：原文点明训练完全在模拟中完成并迁移到物理世界，读者可据此理解强化学习在真实机器人上的可行性路径。
OpenAI NewsAI 评分88 OpenAI Scholars 2020 开放申请
OpenAI 宣布开始接受第三届 OpenAI Scholars 项目的申请。该项目为 OpenAI Scholars 2020 招募第三批学员，申请现已开放。
OpenAI NewsAI 评分5555 OpenAI 用人类偏好微调 GPT-2 的研究
OpenAI 用人类反馈微调了 774M 参数的 GPT-2 语言模型，使其在多项任务上匹配外部标注者的偏好，但这些偏好并不总与 OpenAI 自身一致。摘要任务中，标注者偏好整句照抄输入（OpenAI 只要求他们保证准确性），模型因此学会了复制；该任务耗费 60k 人类标注，而多种风格续写等简单任务只需 5k。