Google Research 提出 LLM 睡眠持续学习框架

Google Research 提出面向大语言模型持续学习的睡眠框架，让模型在主动交互的清醒阶段与离线记忆巩固的睡眠阶段之间交替，把脆弱的短期上下文固化为稳定的长期参数。该框架完全在固定模型架构和人工定义的训练规则内运行。 Google Research 称，交替进行主动交互与离线巩固使 LLM 能持续习得新事实、保留最长 1000 万 token 的长上下文知识并改善复杂推理。在满语、Kalamang 等未见语言的持续翻译多阶段评测中，该框架性能下降接近零，而 ICL、Cartridges 和 SFT 等基线出现严重灾难性遗忘。设计灵感来自人脑 NREM 慢波睡眠对记忆的巩固。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。