Hugging Face Hub 推出 BERTopic 集成
Hugging Face Hub 推出 BERTopic 集成,可直接在 Hub 上对模型和数据集进行主题建模。集成后可自动聚类并生成主题标签,例如 dialogue(14247)、speech asr(1833)、tuning(1369)等,覆盖问答、摘要、情感分析等常见 NLP 任务。
Hugging Face Hub 推出 BERTopic 集成,可直接在 Hub 上对模型和数据集进行主题建模。集成后可自动聚类并生成主题标签,例如 dialogue(14247)、speech asr(1833)、tuning(1369)等,覆盖问答、摘要、情感分析等常见 NLP 任务。
Hugging Face 官方博客系统梳理了文生视频模型的过去、现在与未来,对比其与文生图任务的差异,指出计算成本高、高质量数据集稀缺、视频描述模糊等核心挑战。
Hugging Face Unity API 让开发者在 Unity 项目中通过 Inference API 调用 Hugging Face 模型,安装时在 Package Manager 中添加 git URL 并在 API Wizard 填入 API key 即可。
Databricks 向 Hugging Face 代码库提交首个官方 commit,在 Datasets 中新增 `from_spark` 函数,可直接把 Spark dataframe 转成 Hugging Face dataset。
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间,展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重,数据保留在本地,可在医疗等敏感领域打破数据孤岛,同时满足 HIPAA 等隐私法规。演示中可调整数据分布,观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Snorkel AI 与 Hugging Face 合作,通过 Hugging Face Inference Endpoint 服务让 Snorkel Flow 平台接入超过 150,000 个开源模型,帮助企业适配基础模型。
Hugging Face 发布教程,演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调,在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face 在 Diffusers 中集成 ControlNet,发布 StableDiffusionControlNetPipeline,支持用深度图、分割图、涂鸦、关键点等空间条件控制 Stable Diffusion 生成,论文提出的 8 种条件模型全部支持。
推荐理由:原文给出完整可复现的代码与性能数字,读者可直接照搬这套省显存的 ControlNet 推理配置。
Hugging Face 推出开源工具 ⚔️ AI vs. AI ⚔️,通过让强化学习模型在多智能体对战中相互比拼,用 ELO 评分系统给出相对实力排名。该系统由 Spaces 上的匹配算法、存储比赛结果的 Dataset 和展示 ELO 的 Leaderboard 组成,新模型起始分为 1200。
百度开源深度学习平台 PaddlePaddle 正式加入 Hugging Face Hub,其模型库将逐步与 Hub 集成,Hub 上已有超过 75 个 PaddlePaddle 模型,可通过 PaddlePaddle 库标签筛选。
Hugging Face 官方博客介绍如何用 🤗 transformers 调用 CLIPSeg 零样本分割模型,通过文本提示词和图像提示词(visual prompting)生成粗分割掩码。
Hugging Face 通过纯 Elixir 实现的 Bumblebee 库,将 GPT2 到 Stable Diffusion 等神经网络模型带入 Elixir 社区。
Hugging Face 与 arXiv 合作,Hugging Face Spaces 通过 arXivLabs 的 Demo 标签页集成到论文摘要页,用户可直接打开社区或作者构建的开源 demo。
Hugging Face 发布教程,手把手演示如何用 🤗 Transformers 在 Google Colab 上微调 Whisper small(244M 参数)做多语言 ASR。
rinna Co., Ltd. 基于 Stable Diffusion 微调推出日语专用文生图模型 Japanese Stable Diffusion,可直接接受日语提示词,理解日语特有词汇、拟声词与专有名词,生成反映日语文化语境的图像。
Hugging Face 推出新库 Skops,可将 scikit-learn 模型托管到 Hugging Face Hub,并自动生成 model card 文档。
Nyströmformer 通过 Nyström 方法将标准自注意力的 O(n²) 复杂度降至 O(n),在多项 NLP 与 CV 任务上保持与标准自注意力相当的性能。
Intel 正式加入 Hugging Face 的 Hardware Partner Program,双方基于 Optimum 开源库合作打造 Transformer 模型的训练、微调与推理硬件加速。
Graphcore 与 Hugging Face 将 Hugging Face Optimum 中可在 IPU 上运行的 Transformer 模型扩展至 10 个,覆盖 NLP、语音和计算机视觉,包括 ViT、GPT-2、RoBERTa、DeBERTa、BART、LXMERT、T5、HuBERT 和 Wav2Vec2。
Gradio 官方宣布 Gradio 3.0 发布,这是对该库的彻底重设计,此前已有超过 600,000 个 ML demo 用 Gradio 构建。新版前端改用 Svelte 等现代技术,页面体积更小、加载更快,Dataframe 支持拖拽 CSV,新增 Gallery 组件和 TabbedInterface 类。
Hugging Face 宣布 fastai 实践者现在可以用一行 Python 将模型分享到 Hugging Face Hub,通过 `push_to_hub_fastai` 上传 Learner、`from_pretrained_fastai` 加载模型。
Hugging Face 通过 huggingface_hub 的 emissions_thresholds 参数和 transformers 的 codecarbon 集成,帮助用户追踪、报告并按碳排放筛选模型。
Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成进 🤗 transformers 库和 Hugging Face Hub,并提供 9 个 Gym 环境连续控制任务的预训练模型 checkpoint。
Hugging Face 发布指南,教你用 Python 完成情感分析:从概念、调用预训练模型、自建模型到分析推文。Hugging Face Hub 上有超过 27,000 个模型、215+ 个情感分析模型,用 5 行代码即可调用 pipeline 完成预测,还推荐了 Twitter-roberta-base-sentiment 等微调模型。
Hugging Face 发布首个基于 Unity ML-Agents 的自定义深度强化学习环境 Snowball Fight 1vs1,玩家可在线与深度强化学习 agent 对战,游戏托管于 Hugging Face Spaces。
Hugging Face 在 JAX/Flax 社区周期间,用 7 台 TPU v3-8 和多达 10 亿句对的语料训练出 SOTA 句子嵌入模型。训练采用 Multiple Negative Ranking Loss 对比学习,通过增大 batch size、加入 hard negatives 和跨数据集组 batch 提升质量,相似度缩放因子 C=20。
Hugging Face 介绍了如何用 Streamlit 在 Hugging Face Spaces 上托管模型和数据集并部署应用,以复现 "Write with Transformer" 为例,用 text_area、sidebar slider、number_input 等组件接收 GPT-2、XLNet 推理所需的超参数。
Gradio 与 Hugging Face Hub 完成集成,只需定义 Interface(模型仓库 ID、描述、示例输入)并调用 .launch(),即可通过 Inference API 用几行代码跑通模型演示。
Hugging Face 推出开源库 Optimum,旨在为 Transformers 提供生产性能优化工具包,与硬件合作伙伴(如 Intel)协作,让工程师在特定硬件上高效训练和运行模型。
Hugging Face 在 2021 AI Hardware Summit 上宣布启动 Hardware Partner Program,Graphcore 作为创始成员加入,双方将通过开源工具库 Optimum 提供针对 Graphcore IPU 优化的模型,首批 IPU 优化模型将于当年晚些时候上线。
OpenAI 发布 Triton 1.0,一款类 Python 的开源编程语言,让没有 CUDA 经验的研究者也能编写高效 GPU 代码,多数情况下性能可与专家手写代码相当。
推荐理由:原文点明了 Triton 1.0 面向无 CUDA 经验研究者且性能接近专家水平,读者可据此判断它对 GPU 编程门槛的影响。
Hugging Face Hub 现已支持 spaCy,用户可通过一条命令上传 spaCy pipeline 并自动生成 model card,spaCy org 中已收录 60 多个来自 3.1 release 的官方模型。
Hugging Face 介绍如何用 GPT-Neo 和 🤗 Accelerated Inference API 实现 Few-Shot Learning 预测,该 API 可托管运行 Model Hub 上 10,000+ 模型,相比 Transformers 默认部署最高提速 100x。
Gradio 2.0 让用户用 1 行代码即可加载并使用 Hugging Face Model Hub 上的几乎任何模型,生成带 GUI 的演示界面。默认调用 Hugging Face 托管的 Inference API,也可本地运行 transformers 计算。Gradio 还支持将多个模型并行对比或串联组合,用 3 行代码即可构建芬兰语新闻翻译加摘要的应用。
OpenAI 宣布 2021 届 OpenAI Scholars 学员完成为期六个月的导师制项目,并在 OpenAI 的津贴与支持下产出了开源研究项目。
Hugging Face Transformers 3.1 版本与 Ray Tune 集成,通过 `trainer.hyperparameter_search` 几行代码即可调用 HyperBand、Bayesian Optimization、Population-Based Training 等算法做超参数搜索。
Hugging Face 发布 pytorch_block_sparse 扩展库,基于 NVIDIA CUTLASS 实现块稀疏矩阵乘法,可作为 torch.nn.Linear 的直接替代,让神经网络更小更快。75% 稀疏度下速度约为稠密矩阵的 2 倍,内存占用降至 1/4;当前稀疏实现比 cuBLAS 优化的稠密版本慢约 2 倍,但已比 PyTorch 原生稀疏实现快一个数量级。
OpenAI 发布 Jukebox,一个能以原始音频形式生成多种音乐流派和歌手风格音乐的神经网络,其中包含初步的歌唱能力。OpenAI 同时开源了模型权重和代码,并提供了一个用于浏览生成样本的工具。
推荐理由:原文说明了模型能生成的音频形态与开放程度,读者可据此判断其可复用性。
OpenAI 发布 Safety Gym,一套用于测量强化学习智能体在训练中遵守安全约束进展的环境与工具集。该套件面向训练阶段的安全性评估,帮助研究者量化智能体在满足安全约束方面的进展。
OpenAI 开源了 Neural MMO,一个面向强化学习智能体的大规模多智能体游戏环境,支持在持久、开放式的任务中运行大量数量可变的智能体。引入多智能体与多物种机制可带来更好的探索、分化生态位形成以及整体能力提升。