OpenAI 提出迭代放大：用任务分解学习超越人类规模的复杂目标

OpenAI 提出一种名为迭代放大（iterated amplification）的 AI 安全技术，通过把任务分解为更简单的子任务来指定超越人类规模的复杂行为与目标，而非提供标注数据或奖励函数。该想法仍处极早期，目前仅在简单的玩具算法领域完成实验，但 OpenAI 认为它可能成为一种可扩展的 AI 安全路径，因此决定先以初步状态公开。