GPT-3 驱动下一代应用
超过 300 个应用正通过 OpenAI API 提供 GPT-3 驱动的搜索、对话、文本补全等先进 AI 功能。这些应用覆盖搜索、对话、文本补全等多种场景,均通过 OpenAI API 接入 GPT-3。
超过 300 个应用正通过 OpenAI API 提供 GPT-3 驱动的搜索、对话、文本补全等先进 AI 功能。这些应用覆盖搜索、对话、文本补全等多种场景,均通过 OpenAI API 接入 GPT-3。
Hugging Face Transformers 3.1 版本与 Ray Tune 集成,通过 `trainer.hyperparameter_search` 几行代码即可调用 HyperBand、Bayesian Optimization、Population-Based Training 等算法做超参数搜索。
Hugging Face 发布 pytorch_block_sparse 扩展库,基于 NVIDIA CUTLASS 实现块稀疏矩阵乘法,可作为 torch.nn.Linear 的直接替代,让神经网络更小更快。75% 稀疏度下速度约为稠密矩阵的 2 倍,内存占用降至 1/4;当前稀疏实现比 cuBLAS 优化的稠密版本慢约 2 倍,但已比 PyTorch 原生稀疏实现快一个数量级。
OpenAI 发布 API,供开发者访问 OpenAI 开发的新 AI 模型。
OpenAI 推出 OpenAI Microscope,收录了 8 个常用于可解释性研究的视觉"模型生物"中每个重要层和神经元的可视化。该工具让分析神经网络内部形成的特征变得更容易,OpenAI 希望它能帮助研究社区理解这些复杂系统。
OpenAI 发布 Safety Gym,一套用于测量强化学习智能体在训练中遵守安全约束进展的环境与工具集。该套件面向训练阶段的安全性评估,帮助研究者量化智能体在满足安全约束方面的进展。
OpenAI 开源了 Neural MMO,一个面向强化学习智能体的大规模多智能体游戏环境,支持在持久、开放式的任务中运行大量数量可变的智能体。引入多智能体与多物种机制可带来更好的探索、分化生态位形成以及整体能力提升。
OpenAI 发布强化学习训练环境 CoinRun,为智能体将经验迁移到新情境的能力提供量化指标,并已帮助澄清强化学习领域一个长期存在的谜题。CoinRun 的复杂度低于 Sonic the Hedgehog 等传统平台跳跃游戏,但仍对前沿算法构成泛化挑战。
OpenAI 发布了名为 Spinning Up in Deep RL 的深度强化学习教育资源,面向希望成为熟练实践者的学习者。该资源包含清晰的 RL 代码示例、教育练习、文档和教程。
OpenAI 宣布训练出一只类人机器人手,能够以前所未有的灵巧程度操作物理物体。
OpenAI 发布了用于强化学习研究的游戏平台 Gym Retro 完整版,支持游戏数量从此前公开的约 70 款 Atari 游戏和 30 款 Sega 游戏,扩展到覆盖多种底层模拟器的 1000 款以上游戏。OpenAI 同时开源了用于向该平台添加新游戏的工具。
OpenAI 推出 Retro Contest 迁移学习竞赛,用于衡量强化学习算法从过往经验中泛化的能力。
OpenAI 开源了八个模拟机器人环境和 Hindsight Experience Replay 的 Baselines 实现,均为过去一年内部研究所用。这些环境已被用于训练可在实体机器人上运行的模型,OpenAI 同时发布了若干机器人研究方向的请求(requests for robotics research)。
OpenAI 发布针对 block-sparse 权重神经网络的高性能 GPU kernels,根据所选稀疏度,速度可比 cuBLAS 或 cuSPARSE 快 orders of magnitude。OpenAI 已用其在文本情感分析以及文本和图像生成建模上取得 state-of-the-art 结果。
OpenAI 的最新机器人技术让完全在仿真中训练的机器人控制器部署到实体机器人后,能在完成简单任务时对环境中的意外变化做出反应。研究人员用这些技术构建了闭环系统,取代此前的开环系统。
OpenAI 发布了两个新的 OpenAI Baselines 实现:ACKTR 和 A2C。A2C 是 A3C 的同步、确定性变体,性能与 A3C 相当;ACKTR 是比 TRPO 和 A2C 更样本高效的强化学习算法,每次更新所需计算量仅比 A2C 略多。
OpenAI 开源了 RL-Teacher,一个通过偶尔的人类反馈而非手工设计奖励函数来训练 AI 的界面实现。该技术是迈向安全 AI 系统的一步,也适用于奖励难以明确指定的强化学习问题。
OpenAI 开源了一个基于 MuJoCo 引擎的高性能 Python 机器人仿真库,源自其过去一年的机器人研究。该库面向机器人仿真场景,以 Python 库形式开放获取。
OpenAI 开源了内部强化学习算法复现项目 OpenAI Baselines,首批发布 DQN 及其三个变体,性能与已发表结果持平。OpenAI 表示将在未来几个月陆续发布更多算法。
OpenAI 创建了一套完全在模拟环境中训练、并部署到实体机器人上的机器人系统,机器人看过一次任务演示后即可学会执行该新任务。该系统实现了从模拟训练到物理机器人部署的迁移。
OpenAI 发布开源机器人仿真软件 Roboschool,已与 OpenAI Gym 集成。
OpenAI 打造出全球首个完全在模拟环境中训练、并部署到实体机器人上的垃圾信息检测 AI。该系统将模拟训练的模型直接迁移到物理机器人上运行,实现了从虚拟训练到真实部署的闭环。
OpenAI 发布 Universe,一个用于衡量和训练 AI 通用智能的软件平台,其训练与评测素材覆盖全球的游戏、网站和其他应用程序。
OpenAI 发布强化学习(RL)算法开发与比较工具包 OpenAI Gym 的公开 beta 版,包含从模拟机器人到 Atari 游戏的环境套件,以及一个用于比较和复现结果的网站。