GPT-6 Astra 通过权重空间编程直接改写其他模型权重
The Decoder 报道了一项研究:语言模型 Astra 无需逐步数学优化训练,直接读取或改写其他模型的原始权重,研究者称之为 Weight-Space Programming。
The Decoder 报道了一项研究:语言模型 Astra 无需逐步数学优化训练,直接读取或改写其他模型的原始权重,研究者称之为 Weight-Space Programming。
OpenAI 提出改进一致性模型(Consistency Models)训练的新方法,使这类生成模型能在无需对抗训练的情况下,仅用一步采样生成高质量数据。
OpenAI 研究发现,CNN、ResNet 和 transformer 中存在 double descent 现象:随着模型规模、数据量或训练时间增加,性能先提升、再变差、随后再次提升。该效应通常可通过细致的正则化规避,但其成因尚未被完全理解,OpenAI 认为进一步研究这一现象是重要的研究方向。
OpenAI 开发了名为 Reptile 的可扩展元学习算法,通过反复采样任务、执行随机梯度下降并将初始参数向该任务学到的最终参数更新来工作。Reptile 是 Shortest Descent 算法在元学习场景下的应用,数学上与 first-order MAML 相似,只需对 SGD 或 Adam 等优化器进行黑盒调用,计算效率与性能相当。