Hugging Face Blog·· 2020-07-03AI 评分45
Reformer：用不到 8GB 内存训练 50 万 token 长序列
The Reformer - Pushing the limits of language modeling
AI 导读
Hugging Face 深入解析了 Reformer 模型，它能用不到 8GB 内存一次处理多达 50 万 token，而 bert-base-uncased 只能处理 512 token。
来源：Hugging Face Blog · huggingface.co