OpenAI:多智能体捉迷藏游戏中涌现出渐进复杂的工具使用
OpenAI 报告在新的模拟捉迷藏环境中训练智能体,观察到它们在简单游戏中逐步发现愈发复杂的工具使用,累计形成六种不同的策略与反策略,其中部分策略是作者此前不知道环境所支持的。这种简单环境中的自监督涌现复杂性表明,多智能体协同适应有朝一日可能产生极其复杂和智能的行为。
推荐理由:原文以捉迷藏游戏为例说明多智能体对抗如何催生出连作者都未预料的工具使用策略,可帮助理解涌现行为的研究路径。
OpenAI 报告在新的模拟捉迷藏环境中训练智能体,观察到它们在简单游戏中逐步发现愈发复杂的工具使用,累计形成六种不同的策略与反策略,其中部分策略是作者此前不知道环境所支持的。这种简单环境中的自监督涌现复杂性表明,多智能体协同适应有朝一日可能产生极其复杂和智能的行为。
推荐理由:原文以捉迷藏游戏为例说明多智能体对抗如何催生出连作者都未预料的工具使用策略,可帮助理解涌现行为的研究路径。
OpenAI 在发布 124M 小模型、分阶段发布 355M 中模型及相关误用与社会效益研究后,正式发布 774M 参数的 GPT-2 语言模型。同时发布一份开源法律协议,方便组织之间发起模型共享合作,并公布技术报告介绍其与 AI 研究社区协调发布规范的经验。
推荐理由:原文交代了分阶段发布路径与配套法律协议,读者可了解其模型共享合作的落地方式。
OpenAI 每周四设为 Learning Day,员工可自主选择学习日常工作中接触不到、但能提升岗位能力的技术技能。
Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛经济收益的人工通用智能(AGI)。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台,联合开发新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云提供商。
推荐理由:官方公告点明投资金额与独家云合作方式,可据此理解早期AGI路线中算力绑定的战略选择。
OpenAI 发布政策研究论文,提出四项可立即实施的策略以推动 AI 安全规范的长期行业合作:沟通风险与收益、技术协作、提高透明度和激励标准。OpenAI 指出行业竞争压力可能引发集体行动问题,导致 AI 公司在安全上投入不足,希望这些策略能促进安全开发合作并带来更好的全球成果。
OpenAI 于 2019 年 4 月 27 日举办了首届 OpenAI Robotics Symposium。
OpenAI 第二届 OpenAI Scholars 项目结业,8 位 scholars 全部完成最终项目,并在 OpenAI 举办的 Scholars Demo Day 上进行了展示。
OpenAI 第二届 Fellows Fall 2018 项目已结束,每位 Fellow 在 6 个月学徒期内从机器学习初学者成长为 OpenAI 核心贡献者。OpenAI 正在滚动审核下一轮 OpenAI Fellows Summer 2019 的申请。
OpenAI 发布 MuseNet,一个可生成 4 分钟、包含 10 种乐器并融合从 country 到 Mozart 到 the Beatles 等不同风格的深度神经网络。
OpenAI 发布 Sparse Transformer,这是一种深度神经网络,在文本、图像和声音的序列下一 token 预测上刷新纪录。它通过对注意力机制做算法改进,能从比此前可能长 30 倍的序列中提取模式。
OpenAI Five 在本周末的 Finals 中连胜两局,击败 Dota 2 世界冠军战队 OG,成为首个在电竞项目中战胜世界冠军的 AI。原文指出,OpenAI Five 与 DeepMind 的 AlphaStar 此前都曾在私下击败过顶尖职业选手但输掉了现场直播的比赛,因此这也是 AI 首次在直播中战胜电竞职业选手。
推荐理由:原文点明这是 AI 首次在直播中战胜电竞职业选手,提供了与 AlphaStar 此前战绩的对照背景。
OpenAI 将于 4 月 13 日 11:30am PT 举办 OpenAI Five 的最后一场现场比赛。这是 OpenAI Five 系列的收官赛事。
OpenAI 从 550 名申请者中选出 8 名 Scholar 组成 2019 届团队,成员背景涵盖文学、哲学、细胞生物学、统计学、经济学、量子物理和商业创新等领域。
OpenAI 成立了名为 OpenAI LP 的新“上限利润”(capped-profit)公司,以快速加大对算力和人才的投入,同时通过制衡机制落实其使命。
OpenAI 与 Google 研究者合作开发了 Activation Atlases,一种用于可视化神经元之间交互所代表含义的新技术。随着 AI 系统被部署到日益敏感的场景中,更好地理解其内部决策过程有助于识别弱点并调查故障。
OpenAI 发布论文,主张长期 AI 安全研究需要社会科学家参与,以确保 AI 对齐算法在真实人类参与时依然有效。论文指出,将先进 AI 系统与人类价值对齐需要解决人类理性、情绪与偏见心理学方面的诸多不确定性,旨在推动机器学习与社会科学界的合作,OpenAI 计划全职招聘社会科学家。
OpenAI 宣布训练出一个大规模无监督语言模型,能生成连贯段落,在多个语言模型基准上取得 state-of-the-art 表现,并在未经任务特定训练的情况下完成初步的阅读理解、机器翻译、问答和摘要任务。
OpenAI 首批 Fellows 项目结项,每位 Fellow 在 6 个月的学徒期中从机器学习初学者成长为 OpenAI 核心贡献者。
OpenAI 提出一种名为迭代放大(iterated amplification)的 AI 安全技术,通过把任务分解为更简单的子任务来指定超越人类规模的复杂行为与目标,而非提供标注数据或奖励函数。该想法仍处极早期,目前仅在简单的玩具算法领域完成实验,但 OpenAI 认为它可能成为一种可扩展的 AI 安全路径,因此决定先以初步状态公开。
OpenAI 宣布开放第二期 OpenAI Scholars 项目申请,将提供 6–10 份津贴和导师指导,面向代表性不足群体的个人,资助其全职学习深度学习 3 个月并开源一个项目。
OpenAI 开始接受 2019 年 OpenAI Fellows 与实习生的申请。原文仅说明开放申请,未披露名额、方向或截止日期等细节。
OpenAI 首期 OpenAI Scholars 项目学员已完成该计划并展示了最终项目。
OpenAI Five 在温哥华 The International 2018 上与顶尖 Dota 2 选手对战两场均告负,但两场比赛的前 20–35 分钟都保持着良好的获胜机会。
OpenAI 宣布 OpenAI Five 在一场三局两胜的比赛中击败了由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 Dota 选手队,这五人处于 99.95 分位水平,其中四人曾是职业选手。比赛在现场观众和 100,000 名并发直播观众面前进行。
OpenAI 首期 OpenAI Scholars 项目已经开课,这批经验丰富的软件开发者正在转型为机器学习从业者,外界可以持续跟进他们的学习进展。
OpenAI Five 的 Benchmark 对战已经结束。原文仅宣布了这一结果,未披露对战的具体比分、对手或后续安排。
OpenAI 推出可逆生成模型 Glow,采用可逆 1x1 卷积,简化了此前可逆生成模型的架构。Glow 能生成逼真的高分辨率图像、支持高效采样,并能发现可用于操纵数据属性的特征。OpenAI 同时开源了模型代码并上线在线可视化工具供人探索。
OpenAI 宣布其由五个神经网络组成的团队 OpenAI Five 已开始在 Dota 2 中击败业余人类队伍。
OpenAI 首届 Retro Contest 已结束,该赛事探索能从既往经验中泛化的算法开发。比赛结果现已公布。
OpenAI 宣布用一个可扩展、任务无关的系统在多种语言任务上取得 state-of-the-art 结果,并同步开源该系统。其方法结合了 transformer 与无监督预训练两个已有思路,结果表明监督学习方法搭配无监督预训练效果很好,作者希望这一结果能推动在更大、更多样数据集上开展相关研究。
推荐理由:原文点明了方法组合与可迁移结论,读者可据此理解监督学习配无监督预训练这一思路的价值。
OpenAI 开始接受新一期 OpenAI Fellows 项目申请,该项目提供在 OpenAI 进行为期 6 个月、有薪酬的 AI 研究学徒计划。
OpenAI 提出一种 AI 安全技术,让 AI 智能体就议题相互辩论,由人类评判胜负,以此训练智能体。
OpenAI 推出 Retro Contest 迁移学习竞赛,用于衡量强化学习算法从过往经验中泛化的能力。
OpenAI 于 3 月 3 日举办了首届黑客松活动,邀请了 100 名人工智能社区成员参与。
OpenAI 推出 OpenAI Scholars 项目,向来自代表性不足群体的个人提供 6–10 份津贴和导师指导,支持其全职学习深度学习 3 个月并开源一个项目。
OpenAI 开源了八个模拟机器人环境和 Hindsight Experience Replay 的 Baselines 实现,均为过去一年内部研究所用。这些环境已被用于训练可在实体机器人上运行的模型,OpenAI 同时发布了若干机器人研究方向的请求(requests for robotics research)。
OpenAI 将于 3 月 3 日周六在旧金山 Mission District 办公室举办演讲与黑客松活动。
OpenAI 宣布迎来新的捐赠者。原文仅以一句简短声明表示欢迎新捐赠者加入,未披露捐赠者名单、金额或其他细节。
OpenAI 与 Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security。
OpenAI 提出一种让 AI 互相教学的方法,所选示例同时对人类可解释,会自动挑选信息量最大的例子来教授某个概念(如描述“狗”概念的最佳图片)。实验发现该方法在教 AI 方面有效。