Prodigy-HF 发布:Prodigy 与 Hugging Face 直接集成
Explosion 上周推出 Prodigy-HF 插件,通过 hf.train.ner 和 hf.train.textcat 等 recipe 让用户直接在 Prodigy 标注数据上微调 Hugging Face 模型(如 distilbert-base-uncased),并可用 hf.correct.ner 复用模型辅助标注。
Explosion 上周推出 Prodigy-HF 插件,通过 hf.train.ner 和 hf.train.textcat 等 recipe 让用户直接在 Prodigy 标注数据上微调 Hugging Face 模型(如 distilbert-base-uncased),并可用 hf.correct.ner 复用模型辅助标注。
Renumics Spotlight 支持用一行代码 `spotlight.show(ds)` 对 Hugging Face datasets 库中的数据集(如 speech_commands、CIFAR-100)生成交互式可视化,无需复制或预处理数据。
Hugging Face 发布博客,复现 OpenAI 2019 年的 RLHF 代码库 openai/lm-human-preferences,在 sentiment 和 descriptiveness 等风格任务上得到与原版几乎一致的学习曲线,并整理出一份实现细节清单。
Hugging Face 为 tokenizers 新增 chat_template 属性,用 Jinja 模板保存模型训练时所用的对话格式,避免推理或微调时因格式不匹配导致难以察觉的性能下降。
Hugging Face 官方博客给出用 PyTorch FSDP、Transformers、Accelerate 和 TRL 在多机多卡环境微调 Llama 2 70B 的完整实践,训练约 13.5 小时完成。
Hugging Face 官方博客宣布 TII 的 Falcon 180B 加入 HuggingFace 生态,这是当时最大的公开可用语言模型,拥有 180B 参数、在 RefinedWeb 数据集上训练 3.5 trillion tokens,是开源模型中最长的单轮预训练。
推荐理由:文章给出了硬件需求和量化实测,读者可据此评估自己能否跑起这个 180B 模型。
OpenAI 与 Scale 达成合作,企业客户可通过 Scale 的 AI 专业能力定制 OpenAI 最先进的模型。Scale 将为企业微调模型提供支持服务。
OpenAI 宣布开发者现在可以使用自己的数据对 GPT-3.5 Turbo 进行微调,以适配具体用例,同时发布了相关 API 更新。
Hugging Face 官方博客介绍如何用 TRL 库中的 DPO 方法微调 Llama 2 7B 模型,DPO 绕过奖励模型和 RL 优化步骤,直接在偏好数据上用交叉熵损失优化语言模型。
Hugging Face 推出 Huggy Lingo,用机器学习检测 Hub 上缺失语言元数据的数据集,并由 librarian-bots 提交 pull request 补充元数据。
Segmind 开源了基于知识蒸馏压缩的 SD-Small 和 SD-Tiny 模型的训练代码与预训练权重,两者参数量分别比基础模型少 35% 和 55%,图像保真度与基础模型相当,推理速度最高提升 100%。
Meta 发布 Llama 2 系列开放大语言模型,Hugging Face 完成生态集成,Hub 上提供 12 个开放模型(3 个基础模型与 3 个微调模型及对应 transformers 版本),采用宽松社区许可并支持商用。
推荐理由:文章给出从推理部署到单卡微调的完整路径,可直接迁移用于自己的 Llama 2 实践。
Hugging Face Hub 目前托管超过 190,000 个机器学习模型、33,000 个数据集和 100,000 个机器学习应用与 demo,面向画廊、图书馆、档案馆和博物馆(GLAM)从业者介绍如何查找、使用并贡献内容。
Hugging Face Hub 新增功能,用户可用 DuckDB 对 Hub 上存储的 50,000+ 数据集直接执行 SQL 查询。数据集查看器会自动将所有公开数据集转换为 Parquet 文件,可通过 /parquet 端点获取文件 URL;配合 DuckDB 的 httpfs 扩展即可远程查询这些 Parquet 文件,且支持一次查询多个分片文件。
Hugging Face 官方博客介绍 Falcon 系列模型(Falcon-40B 与 Falcon-7B,由阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布)接入其生态的完整用法。
推荐理由:文章系统梳理了 Falcon 在 Hugging Face 生态中的推理、量化与微调路径,可直接迁移为落地参考。
Hugging Face 与 bitsandbytes 再次合作,在 transformers 中支持以 4-bit 精度运行大部分 HF 模型(含文本、视觉、多模态),并可基于 4bit 模型训练适配器,对应 Dettmers 等人当天发布的 QLoRA 论文。
推荐理由:原文给出 4bit 加载的具体参数配置与显存实测对照,读者可据此在消费级显卡上复现微调方案。
Hugging Face 探索了对 Stable Diffusion 进行指令微调,使其能按输入图像加指令(如"给图像加卡通滤镜")完成图像翻译与低层图像处理任务。
Hugging Face 官方博客详细讲解 BigCode 训练数据的文档级近似去重方法,覆盖 MinHash 加 LSH 的完整流程:shingling 分词、指纹计算、LSH 分桶、候选对聚类与去重决策。
推荐理由:系统梳理了 MinHash 加 LSH 的去重流程与四种扩展方案,并给出参数取舍的实验依据,可直接迁移到自有数据集。
Hugging Face 发布教程,演示如何用 🤗 Transformers 配合 TensorFlow 和 TPUStrategy 在 TPU 上从零训练 RoBERTa(base)掩码语言模型。
Databricks 向 Hugging Face 代码库提交首个官方 commit,在 Datasets 中新增 `from_spark` 函数,可直接把 Spark dataframe 转成 Hugging Face dataset。
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间,展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重,数据保留在本地,可在医疗等敏感领域打破数据孤岛,同时满足 HIPAA 等隐私法规。演示中可调整数据分布,观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Hugging Face 发布 StackLLaMA 模型与配套教程,展示用 SFT、奖励模型和 RLHF 三步在 LLaMA 7B 上训练 Stack Exchange 问答能力的完整流程,模型已上线 Hub,训练管线收录于 TRL 库。
推荐理由:教程完整给出 RLHF 三阶段的可复现代码与显存估算,读者可据此在单卡上跑通流程。
Hugging Face 发布教程,演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调,在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face 官方正式发布 trl 与 peft 的集成,让大语言模型的 RLHF 微调在消费级硬件上更易实现。文中给出三步流程:用 8-bit 精度加载活跃模型、通过 peft 添加可训练的低秩适配器、利用 disable_adapters 复用同一模型同时得到参考与活跃 logits,从而省去两份模型副本。
推荐理由:原文拆解了 8-bit 加载、LoRA 适配器与复用同一模型的三步流程,读者可直接迁移到自己的显存受限训练场景。
Fetch 通过 AWS Marketplace 上的 Hugging Face Expert Acceleration Program,用自研 AI 模型替换第三方"黑盒"方案,开发时间缩短 30%、处理延迟降低 50%,并以影子管线(shadow pipeline)在不中断业务的情况下完成切换。
Hugging Face 推出 🤗 PEFT 库,与 🤗 Transformers 和 🤗 Accelerate 无缝集成,目前支持 LoRA、Prefix Tuning、P-Tuning v2、Prompt Tuning、P-Tuning 等方法。
推荐理由:原文给出了在消费级硬件上微调大模型的具体配置与产出体积对比,可直接迁移复用。
Hugging Face 官方博客介绍如何在 diffusers 中用 LoRA 微调 Stable Diffusion,训练可在 11 GB 显存的 2080 Ti 上完成,训练出的权重仅约 3 MB,比 UNet 原始体积小约一千倍。
推荐理由:原文给出可直接复用的训练脚本与推理代码,并说明 LoRA 相比全量微调在显存和权重体积上的具体收益。
Hugging Face 博客梳理了 ChatGPT 背后的 RLHF、IFT、SFT、CoT、红队测试等技术,对比了 LaMDA、BlenderBot 3、Sparrow、InstructGPT、Assistant 在公开访问、训练数据、模型架构和评测维度上的差异。
推荐理由:通过对比表和分类梳理,读者可快速理解 IFT、SFT、RLHF、CoT 各自作用与数据需求差异。
Hugging Face 介绍如何在 AWS 上用 Intel 第四代 Xeon Sapphire Rapids 服务器集群加速 PyTorch 训练,通过 Intel oneAPI CCL 分布式训练并用 IPEX 自动启用 AMX 新指令,代码无需改动。
Hugging Face 发布音频数据集完全指南,介绍开源库 🤗 Datasets 如何用一行 Python 代码(load_dataset)下载并准备音频数据。
Hugging Face 伦理与社会团队发布通讯 #2,系统梳理机器学习开发各阶段应对偏见的经验与工具。文章指出 ML 模型作为社会技术系统会放大不平等,单一技术干预难以解决,需结合部署语境持续响应反馈。文中按任务定义、数据集筛选、模型训练等环节推荐了 🤗 团队开发的偏见分析工具。
Hugging Face 博客给出在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 模型的完整教程,涵盖环境搭建、数据预处理、训练与模型转换到 🤗 Transformers 四个步骤。
Hugging Face 发布教程,讲解如何在 AWS 的 Habana Gaudi DL1 实例上,用 Hugging Face Transformers、Optimum Habana 和 Datasets 库从零预训练 BERT-base 模型。
Hugging Face 为 🤗 Datasets 新增音频与图像数据集文档,Quickstart 更新了多模态端到端示例,并推出 to_tf_dataset 函数,可将数据集直接转为 tf.data.Dataset。
Hugging Face 以 MNIST 手写数字识别为例,演示如何通过 🤗 Spaces 动态收集对抗数据并迭代训练模型:用户在画布上手写数字骗过模型,flag 后存入数据集并重新训练,循环多轮提升鲁棒性。
Hugging Face 官方博客详细解析了 176B 参数多语言模型 BLOOM 的训练技术,硬件为 384 张 A100 80GB GPU,软件栈为 Megatron-DeepSpeed,数据为 59 种语言的 350B tokens,训练耗时约 3.5 个月(约 1M compute hours)。
OpenAI 通过在大规模人类 Minecraft 玩法无标注视频上做 Video PreTraining(VPT),配合少量标注承包商数据,训练出一个神经网络来玩 Minecraft。微调后该模型能合成钻石工具,这一任务通常需要熟练人类耗时 20 分钟以上(24,000 次动作);模型使用键盘按键和鼠标移动这一原生人类接口,较为通用,是迈向通用计算机使用智能体的一步。
OpenAI 指出,大型神经网络是近期 AI 多项进展的核心,但训练它们是一项困难的工程与研究挑战,需要协调 GPU 集群执行单一的同步计算。
TAPEX 通过在合成语料上学习神经 SQL 执行器来完成表格预训练,无需真实数据,在 WikiSQL、WikiTableQuestions、SQA、TabFact 四个 benchmark 上全部刷新 SOTA。
Hugging Face 播客 Machine Learning Experts 本期嘉宾为 Hugging Face 研究科学家 Sasha Luccioni,她负责研究机器学习模型与数据集的伦理和社会影响,并担任 Big Science Workshop 碳足迹工作组联合主席。