Deep double descent：模型性能随规模先降后升的现象
OpenAI 研究发现，CNN、ResNet 和 transformer 中存在 double descent 现象：随着模型规模、数据量或训练时间增加，性能先提升、再变差、随后再次提升。该效应通常可通过细致的正则化规避，但其成因尚未被完全理解，OpenAI 认为进一步研究这一现象是重要的研究方向。
全部 AI 动态
OpenAI NewsAI 评分4444
OpenAI NewsAI 评分4141 OpenAI 发布 Procgen Benchmark
OpenAI 发布 Procgen Benchmark，包含 16 个简单易用的程序化生成环境，可直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI NewsAI 评分3434 OpenAI 提出衡量神经网络分类器对抗未见攻击鲁棒性的新方法
OpenAI 提出一种方法，用于评估神经网络分类器能否可靠防御训练期间未见过的对抗攻击，并由此得到新指标 UAR（Unforeseen Attack Robustness），衡量单一模型对未预期攻击的鲁棒性。该方法还强调需要在更广泛的未见攻击范围内衡量模型表现。
OpenAI NewsAI 评分3131 OpenAI：为什么负责任的 AI 开发需要安全合作
OpenAI 发布政策研究论文，提出四项可立即实施的策略以推动 AI 安全规范的长期行业合作：沟通风险与收益、技术协作、提高透明度和激励标准。OpenAI 指出行业竞争压力可能引发集体行动问题，导致 AI 公司在安全上投入不足，希望这些策略能促进安全开发合作并带来更好的全球成果。
OpenAI NewsAI 评分4444 OpenAI 与 Google 研究者合作推出 Activation Atlases 可视化技术
OpenAI 与 Google 研究者合作开发了 Activation Atlases，一种用于可视化神经元之间交互所代表含义的新技术。随着 AI 系统被部署到日益敏感的场景中，更好地理解其内部决策过程有助于识别弱点并调查故障。
OpenAI NewsAI 评分3636 AI 安全需要社会科学家
OpenAI 发布论文，主张长期 AI 安全研究需要社会科学家参与，以确保 AI 对齐算法在真实人类参与时依然有效。论文指出，将先进 AI 系统与人类价值对齐需要解决人类理性、情绪与偏见心理学方面的诸多不确定性，旨在推动机器学习与社会科学界的合作，OpenAI 计划全职招聘社会科学家。
OpenAI NewsAI 评分4444 OpenAI：AI 训练如何扩展
OpenAI 发现梯度噪声尺度这一统计指标可预测神经网络训练在多种任务上的并行化程度。由于复杂任务的梯度噪声更大，未来增大批量大小可能更有用，从而消除 AI 系统进一步增长的一个潜在限制。这些结果表明神经网络训练不必被视为神秘艺术，而可以被严格化和系统化。
OpenAI News精选AI 评分6161 OpenAI 分析：2012年以来最大AI训练算力呈指数增长
OpenAI 发布分析显示，自2012年以来最大规模AI训练所用算力以3.4个月翻倍的速度指数增长，同期累计增长超过300,000倍，而摩尔定律的翻倍周期为2年、同样条件下仅对应7倍增长。文章指出算力提升是AI进步的关键组成部分，若这一趋势延续，需要为远超当前能力的系统做好准备。
推荐理由：给出了算力增长的量化趋势和与摩尔定律的对比，读者可据此理解AI能力扩张的速度背景。
OpenAI NewsAI 评分3737 OpenAI 发布可扩展的元学习算法 Reptile
OpenAI 开发了名为 Reptile 的可扩展元学习算法，通过反复采样任务、执行随机梯度下降并将初始参数向该任务学到的最终参数更新来工作。Reptile 是 Shortest Descent 算法在元学习场景下的应用，数学上与 first-order MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒调用，计算效率与性能相当。
OpenAI NewsAI 评分4545 OpenAI：为防范 AI 恶意使用做好准备
OpenAI 与 Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security。
OpenAI NewsAI 评分4545 OpenAI 发布 Requests for Research 2.0：七个未解决的研究问题
OpenAI 发布 Requests for Research 2.0，公开其研究过程中出现的七个尚未解决的问题。这批问题来自 OpenAI 自身研究实践，面向研究社区征集解法。
OpenAI NewsAI 评分2323 OpenAI：元学习智能体在模拟机器人摔跤中的应用
OpenAI 展示了在模拟机器人摔跤任务中，元学习智能体能快速击败更强的非元学习智能体，并能适应物理故障。
OpenAI NewsAI 评分5555 OpenAI 与 DeepMind 合作提出从人类偏好中学习的算法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过告诉系统两种候选行为中哪一种更好，来推断人类真正想要的目标，以减少人类手写目标函数的需求，避免因代理目标不准确或复杂目标出错而导致危险行为。
OpenAI NewsAI 评分4141 OpenAI：强化学习中奖励函数设定错误的失败模式
OpenAI 探讨了强化学习算法一种出人意料的失败模式：奖励函数设定错误（misspecify your reward function）。文章指出强化学习算法可能以令人惊讶、反直觉的方式失效，本文聚焦其中一种因奖励函数设定不当导致的失败模式。
OpenAI NewsAI 评分4545 Concrete AI safety problems：OpenAI 与 Google Brain 等合作探讨 AI 安全研究问题
OpenAI 与来自 Berkeley、Stanford 的研究者共同署名，参与了由 Google Brain 研究者主导的论文《Concrete Problems in AI Safety》。该论文探讨了确保现代机器学习系统按预期运行的多个研究问题。