Hugging Face Blog·· 2020-11-09AI 评分41
如何用预训练语言模型 checkpoint 热启动 encoder-decoder 模型
Leveraging Pre-trained Language Model Checkpoints for Encoder-Decoder Models
AI 导读
Hugging Face 介绍如何用 BERT、GPT2 等预训练 checkpoint 热启动 encoder-decoder 模型，以跳过昂贵的预训练过程。
来源：Hugging Face Blog · huggingface.co