Hugging Face 解读让对话智能体更有用的关键技术
Hugging Face 博客梳理了 ChatGPT 背后的 RLHF、IFT、SFT、CoT、红队测试等技术,对比了 LaMDA、BlenderBot 3、Sparrow、InstructGPT、Assistant 在公开访问、训练数据、模型架构和评测维度上的差异。
推荐理由:通过对比表和分类梳理,读者可快速理解 IFT、SFT、RLHF、CoT 各自作用与数据需求差异。
Hugging Face 博客梳理了 ChatGPT 背后的 RLHF、IFT、SFT、CoT、红队测试等技术,对比了 LaMDA、BlenderBot 3、Sparrow、InstructGPT、Assistant 在公开访问、训练数据、模型架构和评测维度上的差异。
推荐理由:通过对比表和分类梳理,读者可快速理解 IFT、SFT、RLHF、CoT 各自作用与数据需求差异。
Hugging Face 的 AI 游戏开发教程第 3 篇指出,text-to-3D 目前还无法实际用于游戏开发,作者在 5 天农场游戏中改用不同颜色的立方体代表作物。
Hugging Face 发布教程,讲解如何用 🤗 Transformers 和 🤗 datasets 库构建图像相似度系统,通过计算图像 embeddings 并用余弦相似度衡量查询图与候选图的相似程度。
Hugging Face 的 AI 游戏开发教程第 2 部分演示如何用 ChatGPT 辅助农场游戏设计,向其提问后得到作物多样性、进阶系统等建议,并灰盒实现前两项。文章随后科普语言模型、Transformer 架构与 RLHF 原理,指出 ChatGPT 会一本正经地给出错误答案(如四元数解释),建议将其作为头脑风暴与加速工具而非替代开发流程。
Hugging Face 博客系统讲解图机器学习基础,涵盖图的定义、同构/异构与有向/无向等分类、图/节点/边/子图四个层级的预测任务,以及边集与邻接矩阵两种表示方式。文章指出图的拓扑不同于文本或图像,打乱边表或邻接矩阵行列仍是同一张图(置换不变性),并介绍从传统图特征方法到 Graph Neural Networks,再到图上 Transformer 的学习方法演进。
Hugging Face 介绍如何在 AWS 上用 Intel 第四代 Xeon Sapphire Rapids 服务器集群加速 PyTorch 训练,通过 Intel oneAPI CCL 分布式训练并用 IPEX 自动启用 AMX 新指令,代码无需改动。
Hugging Face 推出 AI 游戏开发系列教程,第 1 部分演示如何用 Stable Diffusion 1.5 生成农场游戏概念图,并在 Unity 2021.9.3f1 中搭建场景。
Hugging Face 官方博客介绍如何用 🤗 transformers 调用 CLIPSeg 零样本分割模型,通过文本提示词和图像提示词(visual prompting)生成粗分割掩码。
Hugging Face 发布音频数据集完全指南,介绍开源库 🤗 Datasets 如何用一行 Python 代码(load_dataset)下载并准备音频数据。
Hugging Face 伦理与社会团队发布通讯 #2,系统梳理机器学习开发各阶段应对偏见的经验与工具。文章指出 ML 模型作为社会技术系统会放大不平等,单一技术干预难以解决,需结合部署语境持续响应反馈。文中按任务定义、数据集筛选、模型训练等环节推荐了 🤗 团队开发的偏见分析工具。
Hugging Face 博客系统图解了 RLHF 的三步流程:预训练语言模型、用人类排序数据训练奖励模型、再用 PPO 等强化学习算法微调语言模型。文中说明奖励模型将文本映射为标量奖励,奖励函数由偏好分数减去与初始模型的 KL 散度惩罚构成,以防止模型输出偏离初始模型的乱码。
推荐理由:文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步并给出开源工具清单,便于读者建立完整流程认知。
OpenAI 超算团队工程师 Christian Gibson 分享了后端系统的细节。
Hugging Face 发布面向生物学家和机器学习者的蛋白质深度学习教程,讲解 BERT、GPT 等大语言模型启发的蛋白质语言模型原理与迁移学习机制,并提供微调蛋白质语言模型(PyTorch / TensorFlow)和 ESMFold 蛋白质折叠(PyTorch)两套示例 notebooks。
Hugging Face 介绍如何用 🤗 Transformers 库内置的 Time Series Transformer 模型做单变量概率时间序列预测,即为每条序列预测其一维分布而非单点值。
Hugging Face 官方博客介绍如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion,已将 Stable Diffusion v1.4、v1.5、v2 base、v2.1 base 的 Core ML 权重转换并上传至 Hugging Face Hub。
VQ-Diffusion 是由中国科学技术大学与微软开发的条件隐空间扩散模型,其加噪与去噪过程在离散量化的隐空间上进行,与常见的连续扩散模型形成对比。
Hugging Face 与 Jonathan Whitaker 合作的免费 Diffusion Models 课程将于 11 月 28 日发布,并在 11 月 30 日举办线上直播社区活动。
Hugging Face 梳理了从免费到生产级的推理方案:Inference Widget 免费单击试用模型,Inference API 通过 HTTP 请求免费调用 Hub 上任意模型(有速率限制,不建议生产使用)。
Hugging Face 博客系统梳理了 Document AI 的六类用例(OCR、文档图像分类、版面分析、文档解析、表格抽取、DocVQA)及对应开源模型与评测指标。
Hugging Face 发布教程,演示如何用 Concrete-ML 库在全同态加密(FHE)数据上构建情感分析模型,无需密码学知识。
Hugging Face 在 Diffusers 博客中分享用 Dreambooth 微调 Stable Diffusion 的实验结论与推荐设置:低学习率配合逐步增加训练步数,人脸训练在 batch size 2、LR 1e-6 下 800-1200 步效果较好,且人脸训练需要 prior preservation。
Hugging Face 发布教程,手把手演示如何用 🤗 Transformers 在 Google Colab 上微调 Whisper small(244M 参数)做多语言 ASR。
Hugging Face 在 🤗 Evaluate 库中新增偏差度量,支持用 Toxicity、Polarity、Hurtfulness 三个基于提示词的任务评估 GPT-2、BLOOM 等因果语言模型的偏差。
Hugging Face 教程以 MNIST 训练为例,分三个抽象层级讲解多 GPU 分布式训练:原生 PyTorch DDP(`pytorch.distributed` 模块)。
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax,可在 Google TPU 上运行 Stable Diffusion 推理,教程演示了在 Colab 等环境用 8 个 TPU 加速器并行生成 8 张图片。模型权重以 bf16 版本提供,采用 CreativeML OpenRAIL-M 开放许可,允许再分发与商用,但需向用户附带相同使用限制。
Hugging Face 分享了为 BLOOM(176B 参数、352GB bf16)构建高效推理服务器的完整过程,数周内实现延迟降低 5 倍、吞吐提升 50 倍。
Hugging Face 官方博客讲解 Accelerate 如何借助 PyTorch 让超大模型在免费 Colab 等消费级硬件上完成加载与推理。文章先指出传统加载流程的内存瓶颈:OPT-6.7B 仅创建模型就需约 26.8GB RAM,BLOOM 或 OPT-176B 这类 176B 参数模型按传统方式需 1.4TB CPU RAM。
Hugging Face Blog 在 8x80GB A100 节点上对比了 Accelerate、DeepSpeed-Inference 和 DeepSpeed ZeRO 三套 BLOOM 176B 推理方案的加载时间与逐 token 吞吐。
Hugging Face 发布教程,教你在 Google Colab 上从零训练一个离线 Decision Transformer 模型,让 mujoco halfcheetah 环境中的半猎豹跑起来。教程使用 🤗 Trainer 和自定义 Data Collator,基于 hub 上的 halfcheetah-expert-v2 数据集完成训练,代码已开源在 Colab notebook 中。
Hugging Face 博客给出在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 模型的完整教程,涵盖环境搭建、数据预处理、训练与模型转换到 🤗 Transformers 四个步骤。
Hugging Face 介绍如何在 Spaces 中用 3Dmol.js 和 Gradio 的 HTML block 集成蛋白质结构可视化,支持输入 4 位 PDB code 或上传 PDB 文件,从 RCSB Protein Databank 拉取结构并渲染。
Hugging Face 发布教程,讲解如何在 AWS 的 Habana Gaudi DL1 实例上,用 Hugging Face Transformers、Optimum Habana 和 Datasets 库从零预训练 BERT-base 模型。
Hugging Face 官方博客介绍如何用 🧨 Diffusers 库运行 Stable Diffusion,涵盖安装 diffusers==0.10.2、用 StableDiffusionPipeline 生成图像、fp16 省显存、seed 与 guidance_scale、num_inference_steps、批量生成与非方形分辨率等用法。
Hugging Face 演示了如何用 google-cloud-aiplatform Python SDK 将 🤗 Transformers 的 ViT B/16 TensorFlow 模型部署到 Vertex AI,相比 Kubernetes 部署代码量显著更少且同样具备可扩展性。
Hugging Face 与 Graphcore 联合发布教程,展示如何在 Graphcore IPU 上用 Hugging Face Optimum 库微调 Vision Transformer(ViT)模型。
Hugging Face 官方博客介绍 LLM.int8() 8-bit 矩阵乘法技术及其在 transformers 和 accelerate 库中的集成,可将大模型显存占用降至约 1/4 而不损失性能。
推荐理由:从数据类型基础讲到量化原理与集成细节,读者可据此理解大模型显存占用的成因与 8-bit 推理的落地方式。
Hugging Face 阐述了 transformers 库在 TensorFlow 上的设计哲学:所有 TensorFlow 模型均为 Keras Model 对象、所有层均为 Keras Layer 对象,用户可直接调用 fit()、compile() 和 predict()。
Hugging Face 教程讲解如何用 Docker 和 Kubernetes 将上一篇的 ViT 本地部署扩展到生产环境,支持多用户访问。
Hugging Face 发布教程,讲解如何从零构建或微调 Sentence Transformers 模型,涵盖数据集四种格式、损失函数选择、训练与分享至 Hugging Face Hub。
Hugging Face 深度强化学习课程第 8 单元讲解 Proximal Policy Optimization (PPO),通过将当前与旧策略的概率比裁剪到 [1−ϵ, 1+ϵ] 区间来限制策略更新幅度,从而提升训练稳定性。文中对比了 TRPO 的 KL 散度约束方案,并将用 PyTorch 从零实现 PPO Agent,在 CartPole-v1 和 LunarLander-v2 上验证。