Stas Bekman 详解将 fairseq WMT19 翻译系统移植到 transformers 的全过程
Stas Bekman 撰写客座博文,详细记录了如何把 Facebook FAIR 的 fairseq WMT19 翻译系统移植到 transformers,最终产出 FSMT 模型并合入 PR。
Stas Bekman 撰写客座博文,详细记录了如何把 Facebook FAIR 的 fairseq WMT19 翻译系统移植到 transformers,最终产出 FSMT 模型并合入 PR。
Hugging Face Transformers 3.1 版本与 Ray Tune 集成,通过 `trainer.hyperparameter_search` 几行代码即可调用 HyperBand、Bayesian Optimization、Population-Based Training 等算法做超参数搜索。
Hugging Face 博客详细讲解了 Transformer-based encoder-decoder 架构如何建模 sequence-to-sequence 问题,聚焦其数学模型与推理用法,并拆解 encoder 和 decoder 两部分,配合大量插图建立理论与 🤗Transformers 实际推理的联系。
Hugging Face 深入解析了 Reformer 模型,它能用不到 8GB 内存一次处理多达 50 万 token,而 bert-base-uncased 只能处理 512 token。
Hugging Face 官方博客讲解如何用 transformers 库实现不同解码方法,以 GPT2 为例演示 Greedy search、Beam search、Sampling、温度、Top-K 与 Top-p 的代码与输出差异。
Hugging Face 官方博客演示如何用 transformers 和 tokenizers 库从零训练一个 84M 参数(6 层、768 hidden size。
OpenAI 于 2 月 2 日举办了首届 Spinning Up Workshop,这是其新教育计划的一部分。
OpenAI 发布了名为 Spinning Up in Deep RL 的深度强化学习教育资源,面向希望成为熟练实践者的学习者。该资源包含清晰的 RL 代码示例、教育练习、文档和教程。
OpenAI 撰文解释对抗样本——攻击者刻意构造的、会让机器学习模型出错的输入,称其如同机器的视觉错觉。文章展示对抗样本在不同媒介中的工作方式,并讨论为何防御此类攻击较为困难。
OpenAI 指出深度学习是一门实证科学,团队基础设施的质量是研究进展的乘数。文章认为,如今的开源生态让任何人都能搭建出色的深度学习基础设施。