OpenAI：AI 训练如何扩展

OpenAI 发现梯度噪声尺度这一统计指标可预测神经网络训练在多种任务上的并行化程度。由于复杂任务的梯度噪声更大，未来增大批量大小可能更有用，从而消除 AI 系统进一步增长的一个潜在限制。这些结果表明神经网络训练不必被视为神秘艺术，而可以被严格化和系统化。