Hugging Face Hub 搜索功能升级：huggingface_hub 新增 ModelFilter 与 ModelSearchArguments
huggingface_hub 新增 ModelSearchArguments 和 ModelFilter 两个类，让用户在 Jupyter 或 Python 环境中无需离开 IDE 即可搜索 Hub 上的模型与数据集。
#Hugging Face
Hugging Face BlogAI 评分3838
Hugging Face BlogAI 评分3636 Hugging Face Hub 集成 Stable-Baselines3，支持模型上传与加载
Hugging Face 宣布将深度强化学习库 Stable-Baselines3 集成到 Hugging Face Hub，用户可通过 `huggingface_hub` 和 `huggingface_sb3` 两个库上传保存的模型并从社区加载模型。
Hugging Face BlogAI 评分1818 Hugging Face Infinity 案例研究：用现代 CPU 实现毫秒级延迟
Hugging Face Infinity 在 Amazon EC2 C6i（第 3 代 Intel Xeon）上运行 DistilBERT 序列分类任务，相比 cascade-lake 实例延迟与吞吐最高提升 34%，相比 ice-lake 上的 vanilla transformers 最高提升 800%。
Hugging Face BlogAI 评分4444 用 Hugging Face Transformers 和 Amazon SageMaker 部署 GPT-J 6B 推理
Hugging Face 介绍如何用 Hugging Face Inference Toolkit 和 Amazon SageMaker 部署 EleutherAI 的 GPT-J 6B（6 billion 参数开源模型）做实时推理，用普通 NVIDIA T4 GPU 实例（约 500$/m）几行代码即可完成。
Hugging Face BlogAI 评分3636 用 AutoNLP 和 Prodigy 构建主动学习流水线
Hugging Face 介绍了如何用 AutoNLP 和 Prodigy 搭建主动学习流水线：先用 Prodigy 对 BBC News Classification 数据集标注 NER 标签（PERSON、ORG、PRODUCT、LOCATION），再将标注数据转换为 AutoNLP 格式训练模型。
Hugging Face BlogAI 评分5555 Hugging Face 收购 Gradio
Hugging Face 宣布收购机器学习初创公司 Gradio，Gradio 创始人表示双方将合作让机器学习对任何有网络和浏览器的人都可及。Gradio 于 2019 年由斯坦福博士生发起，用于让非技术用户测试和分享模型，至今已有超过 300,000 个 demo 用其构建；文中开头的收购通稿段落由基于 Gradio 构建的 Acquisition Post Generator 演示生成。
Hugging Face BlogAI 评分5656 Hugging Face 教你从零训练代码生成模型 CodeParrot
Hugging Face 发布教程，讲解如何从零训练用于 Python 代码补全的 GPT-2 模型 CodeParrot。
Hugging Face BlogAI 评分3838 Hugging Face 推出首个 ML-Agents 环境 Snowball Fight
Hugging Face 发布首个基于 Unity ML-Agents 的自定义深度强化学习环境 Snowball Fight 1vs1，玩家可在线与深度强化学习 agent 对战，游戏托管于 Hugging Face Spaces。
Hugging Face BlogAI 评分3838 Hugging Face Transformers 在 Graphcore IPU 上的 Optimum 入门指南
Hugging Face 与 Graphcore 合作推出首个 IPU 优化模型 BERT，开发者可通过开源库 Optimum 在 Graphcore IPU 上加速 Transformer 模型的训练、微调与推理。
Hugging Face BlogAI 评分5555 Hugging Face 推出开源 Data Measurements Tool 数据集度量工具
Hugging Face 发布开源 Python 库与无代码界面 Data Measurements Tool（DMT），基于 Dataset 和 Spaces Hubs 配合 Streamlit 构建，可在线构建、度量和比较数据集。
Hugging Face BlogAI 评分4747 在现代 CPU 上扩展 BERT 类模型推理 — 第二部分：Intel 软件优化
Hugging Face 与 Intel 合作介绍在 Intel Xeon Ice Lake CPU 上用软件优化 BERT 类模型推理的方法，Ice Lake 相比上一代 Cascade Lake 在多种 NLP 任务上推理最高快 75%。
Hugging Face BlogAI 评分3838 Hugging Face 课程第二部分发布暨社区活动启动
Hugging Face 宣布课程第二部分将于 11 月 15 日发布，并同步举办为期两天的社区活动，涵盖 token 分类、语言建模、翻译、摘要和问答等 NLP 任务及 🤗 Datasets、🤗 Tokenizers 生态工具。
Hugging Face BlogAI 评分4444 用 1B 训练对训练句子嵌入模型
Hugging Face 在 JAX/Flax 社区周期间，用 7 台 TPU v3-8 和多达 10 亿句对的语料训练出 SOTA 句子嵌入模型。训练采用 Multiple Negative Ranking Loss 对比学习，通过增大 batch size、加入 hard negatives 和跨数据集组 batch 提升质量，相似度缩放因子 C=20。
Hugging Face BlogAI 评分3838 机器学习正成为软件工程：Hugging Face 谈 MLOps 与 Transformer 的普及
Hugging Face 认为机器学习应像普通 IT 负载一样被工程化管理，企业更应招聘懂 ML 的软件与 DevOps 工程师而非更多数据科学家。Kaggle 调查显示 75% 受访者使用云服务、超过 45% 使用企业级 ML 平台，Amazon SageMaker、Databricks 和 Azure ML Studio 排名前三。
Hugging Face BlogAI 评分3636 用遥感卫星图像与描述微调 CLIP
一个跨 12 个时区的团队在 Hugging Face Flax/JAX Community Week 期间，用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP 模型，使其能用文本查询检索卫星图像。
Hugging Face BlogAI 评分3838 用 Streamlit 在 Hugging Face Spaces 上托管你的模型和数据集
Hugging Face 介绍了如何用 Streamlit 在 Hugging Face Spaces 上托管模型和数据集并部署应用，以复现 "Write with Transformer" 为例，用 text_area、sidebar slider、number_input 等组件接收 GPT-2、XLNet 推理所需的超参数。
Hugging Face BlogAI 评分4444 用 Gradio 在 Hugging Face Spaces 展示你的项目
Gradio 与 Hugging Face Hub 完成集成，只需定义 Interface（模型仓库 ID、描述、示例输入）并调用 .launch()，即可通过 Inference API 用几行代码跑通模型演示。
Hugging Face BlogAI 评分4545 Hugging Face 夏季回顾：Hub 新功能、社区活动与开源进展
Hugging Face 回顾了 6 至 8 月的进展：Hub 公开模型仓库从 10,000 个增至超过 16,000 个，并推出 Spaces Beta，支持用 Gradio 和 Streamlit 免费部署 ML demo 应用。
Hugging Face BlogAI 评分5050 Hugging Face 推出 Optimum：面向大规模 Transformers 的优化工具包
Hugging Face 推出开源库 Optimum，旨在为 Transformers 提供生产性能优化工具包，与硬件合作伙伴（如 Intel）协作，让工程师在特定硬件上高效训练和运行模型。
Hugging Face BlogAI 评分3636 Hugging Face 与 Graphcore 合作推出 IPU 优化的 Transformers 模型
Hugging Face 在 2021 AI Hardware Summit 上宣布启动 Hardware Partner Program，Graphcore 作为创始成员加入，双方将通过开源工具库 Optimum 提供针对 Graphcore IPU 优化的模型，首批 IPU 优化模型将于当年晚些时候上线。
Hugging Face BlogAI 评分5656 Hugging Face 用 DeDLOC 协作预训练孟加拉语模型 sahajBERT
Hugging Face 介绍新方法 DeDLOC，让志愿者通过互联网协作预训练语言模型，并用 40 名志愿者训练出孟加拉语模型 sahajBERT。
Hugging Face BlogAI 评分4444 spaCy 加入 Hugging Face Hub
Hugging Face Hub 现已支持 spaCy，用户可通过一条命令上传 spaCy pipeline 并自动生成 model card，spaCy org 中已收录 60 多个来自 3.1 release 的官方模型。
Hugging Face BlogAI 评分4444 用 Amazon SageMaker 轻松部署 Hugging Face 模型
Hugging Face 推出新的 Inference DLCs 与 SageMaker Hugging Face Inference Toolkit，只需一行代码即可将 Hugging Face Transformers 模型部署到 Amazon SageMaker，或从 Model Hub 的 10,000+ 公开模型中直接选择部署。
Hugging Face BlogAI 评分4444 Hugging Face Hub 集成 Sentence Transformers：新增两个 widget 与 Inference API 端点
Hugging Face Hub 集成 Sentence Transformers 框架，随 Sentence Transformers v2 发布新增 feature-extraction 和 sentence similarity 两个 widget，并提供 Inference API 端点供程序化调用。
Hugging Face BlogAI 评分3838 Few-shot learning 实践：GPT-Neo 与 🤗 Accelerated Inference API
Hugging Face 介绍如何用 GPT-Neo 和 🤗 Accelerated Inference API 实现 Few-Shot Learning 预测，该 API 可托管运行 Model Hub 上 10,000+ 模型，相比 Transformers 默认部署最高提速 100x。
Hugging Face BlogAI 评分4545 Gradio 2.0：用 1 行代码加载和混搭 Hugging Face 模型
Gradio 2.0 让用户用 1 行代码即可加载并使用 Hugging Face Model Hub 上的几乎任何模型，生成带 GUI 的演示界面。默认调用 Hugging Face 托管的 Inference API，也可本地运行 transformers 计算。Gradio 还支持将多个模型并行对比或串联组合，用 3 行代码即可构建芬兰语新闻翻译加摘要的应用。
Hugging Face BlogAI 评分5050 Hugging Face 教你在 CPU 上扩展 BERT 推理（第一部分）
Hugging Face 发布系列博文第一部分，讲解如何在 CPU 上扩展 BERT 推理，重点覆盖硬件层面的优化。
Hugging Face BlogAI 评分5555 Hugging Face 发布开源库 Accelerate，五行代码让 PyTorch 训练脚本支持分布式与混合精度
Hugging Face 发布开源库 Accelerate，让 PyTorch 用户在保留自定义训练循环的前提下，只需向标准脚本加入五行代码即可在多 GPU、多节点、TPU 等分布式环境以及混合精度下运行。
Hugging Face BlogAI 评分3838 分布式训练：用 🤗 Transformers 和 Amazon SageMaker 对 BART/T5 做摘要任务微调
Hugging Face 与 Amazon SageMaker 合作推出优化的 Deep Learning Containers，通过 SageMaker Python SDK 中的 HuggingFace estimator 可用一行代码启动训练。
Hugging Face BlogAI 评分4141 理解 BigBird 的 Block Sparse Attention
Hugging Face 博客深入讲解了 BigBird 的 block sparse attention 实现原理，说明其如何用滑动窗口、全局 token 和随机 token 三种注意力模式近似 BERT 的全注意力，将序列长度扩展到 4096 且计算成本远低于 BERT。
Hugging Face BlogAI 评分5555 Hugging Face 与 Amazon 达成战略合作，推出 Amazon SageMaker 深度学习容器
Hugging Face 宣布与 Amazon 达成战略合作，选择 AWS 作为其首选云提供商，并推出新的 Hugging Face Deep Learning Containers（DLCs），让用户在 Amazon SageMaker 中更轻松地训练 Transformers 模型。
Hugging Face BlogAI 评分4949 在 Hugging Face 中用 🤗 Transformers 微调 Wav2Vec2 进行英文 ASR
Hugging Face 教程详解如何用 🤗 Transformers 微调 Wav2Vec2 预训练模型完成英文 ASR，演示在仅含 5h 训练数据的 Timit 数据集上微调 "base" 尺寸 checkpoint，不使用语言模型、以 CTC 训练并用 WER 评估。
Hugging Face BlogAI 评分3838 Hugging Face Reads, 2021 年 2 月 - 长程 Transformer
Hugging Face 读书会 2021 年 2 月主题聚焦长程注意力，总结了 Longformer、Compressive Transformer、Linformer、Performer 四篇论文的思路。Longformer 用窗口化/全局注意力把内存开销从 n² 降到 wn+gn，可直接替换标准 self-attention 并复用预训练 checkpoint 微调。
Hugging Face BlogAI 评分4949 Hugging Face：构建神经网络前的几个简单思考
Hugging Face 博客给出构建与调试神经网络的实用建议：先放下机器学习、专注数据本身，再从最简单的 baseline（如基于 word2vec 或 fastText 的逻辑回归）起步建立参照。实现完成后应先用小批量样本（如 16 条）过拟合到 0-loss 来验证代码正确性，避免把 bug 误判为模型能力不足。这些经验源自 NLP 研究，也适用于其他机器学习领域。
Hugging Face BlogAI 评分3838 用 Ray 加速 Hugging Face Transformers 的 RAG 分布式微调
Hugging Face Transformers 的 RAG 模型引入 Ray 实现分布式文档检索，单次检索调用较 torch.distributed 提速 2x。
Hugging Face BlogAI 评分4444 Hugging Face 在 Cloud TPU 上用 PyTorch / XLA 训练 Transformer
Hugging Face 与 PyTorch / XLA 集成，让 PyTorch 用户在保持原有 Hugging Face Trainer 接口不变的情况下，在 Cloud TPU 上运行并扩展模型训练。
Hugging Face BlogAI 评分4444 Hugging Face Transformers 提升 TensorFlow 模型速度并部署 TensorFlow Serving 教程
Hugging Face Transformers v4.2.0 将 BERT、RoBERTa、ELECTRA 和 MPNet 的 TensorFlow 模型计算速度提升至比 Google 官方实现快约 10%，且比 4.1.1 版本快一倍。
Hugging Face BlogAI 评分5555 Hugging Face 教你用 ZeRO 通过 DeepSpeed 和 FairScale 更省显存地训练
Hugging Face 博客介绍如何在 transformers v4.2.0 中通过新增的 --sharded_ddp 和 --deepspeed 参数使用 FairScale 与 DeepSpeed 的 ZeRO 功能。
Hugging Face BlogAI 评分3939 Hugging Face 如何为 🤗 API 客户将 Transformer 推理加速 100 倍
Hugging Face 通过两阶段优化将 🤗 Accelerated Inference API 上的 Transformer 推理整体提速 100 倍。
Hugging Face BlogAI 评分4141 如何用预训练语言模型 checkpoint 热启动 encoder-decoder 模型
Hugging Face 介绍如何用 BERT、GPT2 等预训练 checkpoint 热启动 encoder-decoder 模型，以跳过昂贵的预训练过程。