Hugging Face Blog·· 2023-05-15精选AI 评分60
RWKV 架构集成进 Hugging Face transformers 库
Introducing RWKV - An RNN with the advantages of a transformer
AI 导读
Hugging Face 官方博客宣布 RWKV 架构已通过 Pull Request 集成进 transformers 库，可通过源码安装或 main 分支使用，支持 pipeline 文本生成与 alpaca 风格的 RWKV-4 Raven 聊天模型调用，并提供 convert_rwkv_checkpoint_to_hf.py 脚本转换原始权重。
推荐理由
原文对比了 RWKV 与 Transformer、RNN 的取舍并给出可直接运行的代码，便于读者判断其适用场景。
来源：Hugging Face Blog · huggingface.co