用 BentoML 部署 Hugging Face 模型：DeepFloyd IF 实战
Hugging Face 博客演示了如何用开源模型服务框架 BentoML 部署开源文生图模型 DeepFloyd IF，覆盖模型下载到 Model Store、创建 Service、构建 Bento、容器化部署到 Kubernetes 或 Yatai 的完整流程。
全部 AI 动态
Hugging Face BlogAI 评分3838
Hugging Face BlogAI 评分5555 Hugging Face 教你用 DPO 微调 Llama 2
Hugging Face 官方博客介绍如何用 TRL 库中的 DPO 方法微调 Llama 2 7B 模型，DPO 绕过奖励模型和 RL 优化步骤，直接在偏好数据上用交叉熵损失优化语言模型。
Hugging Face BlogAI 评分4141 用 Inference Endpoints 快速部署 MusicGen
Hugging Face 通过 Inference Endpoints 的 custom handler 机制，让 MusicGen 这类没有现成 pipeline 的模型也能几点击部署上线。
Hugging Face BlogAI 评分4141 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 推出 Huggy Lingo，用机器学习检测 Hub 上缺失语言元数据的数据集，并由 librarian-bots 提交 pull request 补充元数据。
Hugging Face BlogAI 评分4545 基于 FHE 的加密大语言模型：Hugging Face GPT2 实践
Zama 展示了如何用全同态加密（FHE）让 Hugging Face transformers 库中的 GPT2 在加密数据上运行推理，同时保护用户隐私和模型 IP。
Hugging Face BlogAI 评分4646 用生成式 AI 构建 PS1 风格 3D 资产：分步指南
Hugging Face 博客给出一套用生成式 AI 制作 PS1 风格 3D 资产的分步教程：先在 Shap-E Hugging Face Space 用开源 Shap-E 扩散模型从文本生成 3D 模型，再导入 Blender 3.1+ 用 Decimate 修改器把面数降到 0.02 左右。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 Apple 推出 Stable Diffusion XL 的 Core ML 版本与混合位调色板压缩
Hugging Face 与 Apple 合作将 Stable Diffusion XL 移植到 Core ML，发布了 apple/coreml-stable-diffusion-xl-base 完整流水线和 apple/coreml-stable-diffusion-mixed-bit-palettization 版本。
推荐理由：原文给出混合位调色板压缩的逐层比特分配方法与实测体积数据，读者可迁移到自己的 Core ML 模型压缩上。
Hugging Face BlogAI 评分4444 Hugging Face Diffusers 庆祝一周年：回顾一年来的重要功能更新
Hugging Face 的 Diffusers 库迎来一周年，回顾了社区共同贡献的一年重要功能更新。
Hugging Face BlogAI 评分4444 Hugging Face 构建 AI WebTV：用开源模型自动生成视频流
Hugging Face 推出实验性 AI WebTV，用开源模型自动生成并直播视频流。流水线以 ChatGPT 生成分镜提示词，经 Zeroscope V2（zeroscope_v2_576 生成 576x320、zeroscope_v2_XL 升采样至 1024x576）出片，再用 FILM 插帧并配 MusicGen 音乐，最终由 FFmpeg 推流至 RTMP。
Hugging Face BlogAI 评分4949 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 盘点了其开源文本生成与 LLM 生态，涵盖 Llama 2、MPT-30B、XGen、Falcon、FLAN-T5、BLOOM 和 StarCoder 等模型。
Hugging Face BlogAI 评分4444 在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示了如何在 Intel Sapphire Rapids CPU 集群上用 textual inversion 微调 Stable Diffusion 模型，只需 5 张示例图片。
Hugging Face BlogAI 评分5757 用 Transformers.js 打造浏览器端实时 ML 游戏 Doodle Dash 的教程
Hugging Face 官方博客介绍了如何用 Transformers.js 在浏览器中构建实时 ML 游戏 Doodle Dash，模型基于 Google Quick, Draw!
Hugging Face BlogAI 评分4141 使用 Hugging Face Inference Endpoints 部署 LLM 教程
Hugging Face Inference Endpoints 是一款托管 SaaS 服务，可通过几次点击将开源 LLM（如 Falcon 40B instruct）部署为生产级 API，支持自动扩缩容、scale-to-zero 降本与 SOC2 Type 2 安全认证。
Hugging Face BlogAI 评分4444 用开源 ML 模型构建 Web 应用生成器
Hugging Face 发布教程，用 NodeJS + Express.js 调用 WizardCoder-15B（经 Inference Endpoints API）流式生成 HTML，实现文本生成网页应用。
Hugging Face BlogAI 评分4141 BridgeTower 在 Habana Gaudi2 上的加速：视觉-语言模型微调基准测试
Optimum Habana v1.7 在 Habana Gaudi2 上微调 BridgeTower 时，相比 A100 实现 x2.5 加速，相比 H100 实现 x1.4 加速。
Hugging Face BlogAI 评分5151 Hugging Face 伦理与社会通讯 #4：文生图模型中的偏差
Hugging Face 发布伦理与社会通讯第 4 期，梳理文生图（TTI）模型中偏差的来源与应对方法。
Hugging Face Blog精选AI 评分6363 Hugging Face 解释 Open LLM Leaderboard 上 MMLU 分数差异的成因
Hugging Face 博客解释了 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何显著低于 LLaMA 论文报告值。
推荐理由：通过对比三套 MMLU 实现的分数差异，读者能理解评测分数为何不可直接跨库比较。
Hugging Face BlogAI 评分5757 Hugging Face 教程：用 Adapter 微调 MMS 做低资源语音识别
Hugging Face 官方博客给出用 MMS Adapter 微调低资源 ASR 的完整教程，只需 10-20 分钟微调即可取得很低的词错误率。
Hugging Face BlogAI 评分4545 Hugging Face：Transformer 在时间序列预测中确实有效（附 Autoformer）
Hugging Face 通过对比实验表明，Autoformer 在 Traffic、Exchange-Rate、Electricity 三个数据集上的 MASE 分数（0.910、1.087、0.751）均优于 AAAI 2023 论文所称更优的线性模型 DLinear（0.965、1.690、0.831）。
Hugging Face BlogAI 评分5656 Hugging Face 教你在 iPhone、iPad 和 Mac 上用 Core ML 更快运行 Stable Diffusion
Hugging Face 介绍 WWDC'23 后 Core ML 与 coremltools 的压缩优化更新，用 6-bit palettization 把 Stable Diffusion 权重从 16-bit 压到每参数 6 bit，推理时逐层即时解压以降低内存占用。
Hugging Face BlogAI 评分3838 面向画廊、图书馆、档案馆和博物馆的 Hugging Face Hub 使用指南
Hugging Face Hub 目前托管超过 190,000 个机器学习模型、33,000 个数据集和 100,000 个机器学习应用与 demo，面向画廊、图书馆、档案馆和博物馆（GLAM）从业者介绍如何查找、使用并贡献内容。
Hugging Face BlogAI 评分3838 用 Hugging Face Unity API 在 Unity 中实现语音识别教程
这篇教程演示如何用 Hugging Face Unity API 在 Unity 游戏中实现语音识别，可用于下达指令、与 NPC 对话或提升无障碍体验。
Hugging Face BlogAI 评分4444 用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 在 Intel CPU 上的推理
Hugging Face 用 OpenVINO NNCF 的量化感知训练（QAT）结合 Token Merging 优化 Stable Diffusion，相比 PyTorch 实现 5.1x 推理加速和 4x 模型体积缩减。优化仅需 4096 次迭代，用一块 24 GB 显存的 GPU 不到一天即可完成。优化后的模型适合在客户端或边缘 CPU 等算力受限设备上运行。
Hugging Face BlogAI 评分4949 用 InstructPix2Pix 对 Stable Diffusion 进行指令微调
Hugging Face 探索了对 Stable Diffusion 进行指令微调，使其能按输入图像加指令（如"给图像加卡通滤镜"）完成图像翻译与低层图像处理任务。
Hugging Face Blog精选AI 评分6060 BigCode 背后的大规模近似去重实践
Hugging Face 官方博客详细讲解 BigCode 训练数据的文档级近似去重方法，覆盖 MinHash 加 LSH 的完整流程：shingling 分词、指纹计算、LSH 分桶、候选对聚类与去重决策。
推荐理由：系统梳理了 MinHash 加 LSH 的去重流程与四种扩展方案，并给出参数取舍的实验依据，可直接迁移到自有数据集。
Hugging Face BlogAI 评分4444 如何在单张 AMD GPU 上用 ROCm 运行类 ChatGPT 聊天机器人
Hugging Face 给出教程，展示如何在单张 AMD GPU 上通过 ROCm 运行开源聊天机器人 Vicuna 13B。Vicuna 由 UC Berkeley、CMU、Stanford、UC San Diego 团队基于 LLAMA 微调约 70K 条 ShareGPT 对话而成，以 GPT-4 为参照质量达 ChatGPT 的 90% 以上，训练成本约 $300。
Hugging Face Blog精选AI 评分6464 Hugging Face Transformers 推出 assisted generation 低延迟解码方法
Hugging Face 在 🤗 Transformers 的 .generate() 中推出新解码方法 assisted generation，用小模型生成候选 token、再由目标模型一次前向验证，在普通硬件上最高可将延迟降低 10x。
推荐理由：原文拆解了延迟瓶颈并给出可复现的加速数字，读者可据此判断该方法是否适配自己的部署场景。
Hugging Face BlogAI 评分5555 Hugging Face 博客解读文生视频模型：原理、挑战与可运行的 Diffusers 实践
Hugging Face 官方博客系统梳理了文生视频模型的过去、现在与未来，对比其与文生图任务的差异，指出计算成本高、高质量数据集稀缺、视频描述模糊等核心挑战。
Hugging Face BlogAI 评分3535 如何安装和使用 Hugging Face Unity API
Hugging Face Unity API 让开发者在 Unity 项目中通过 Inference API 调用 Hugging Face 模型，安装时在 Package Manager 中添加 git URL 并在 API Wizard 填入 API key 即可。
Hugging Face BlogAI 评分4545 用 🤗 Transformers 结合 TensorFlow 和 TPU 从零训练语言模型
Hugging Face 发布教程，演示如何用 🤗 Transformers 配合 TensorFlow 和 TPUStrategy 在 TPU 上从零训练 RoBERTa（base）掩码语言模型。
Hugging Face BlogAI 评分5858 Hugging Face 教你在免费版 Google Colab 上用 diffusers 运行 IF 文生图模型
Hugging Face 官方博客给出完整教程，用 🧨 diffusers 在免费版 Google Colab（13 GB CPU RAM、15 GB VRAM 的 T4）上运行 DeepFloyd 的 IF 文生图模型。
Hugging Face BlogAI 评分3838 如何在 Hugging Face Space 中托管 Unity 游戏
Hugging Face Spaces 除了托管机器学习 demo，还可以直接托管可玩的 Unity 游戏。
Hugging Face BlogAI 评分3838 用 Transformers 库做图分类：Graphormer 教程
Hugging Face 教程演示如何用 Transformers 库（版本 >= 4.27.2）对图数据做分类，使用的是库中目前唯一的图 Transformer 模型 Microsoft Graphormer。
Hugging Face BlogAI 评分3838 用 Substra 构建隐私保护 AI：Hugging Face 联合推出联邦学习演示空间
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间，展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重，数据保留在本地，可在医疗等敏感领域打破数据孤岛，同时满足 HIPAA 等隐私法规。演示中可调整数据分布，观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Hugging Face Blog精选AI 评分7171 Hugging Face 发布 StackLLaMA：用 RLHF 训练 LLaMA 回答 Stack Exchange 问题的实战指南
Hugging Face 发布 StackLLaMA 模型与配套教程，展示用 SFT、奖励模型和 RLHF 三步在 LLaMA 7B 上训练 Stack Exchange 问答能力的完整流程，模型已上线 Hub，训练管线收录于 TRL 库。
推荐理由：教程完整给出 RLHF 三阶段的可复现代码与显存估算，读者可据此在单卡上跑通流程。
Hugging Face BlogAI 评分4444 在 Intel CPU 上加速 Stable Diffusion 推理
在 Intel Sapphire Rapids CPU 上，Stable Diffusion v1-5 的 float32 推理平均延迟为 32.3 秒，改用 Optimum Intel 与 OpenVINO 并固定 512x512 分辨率后降至 4.7 秒，相比 Ice Lake Xeon 上约 45 秒的原始推理提速近 10x。
Hugging Face BlogAI 评分4444 BLOOMZ 在 Habana Gaudi2 加速器上的大语言模型快速推理
Hugging Face 测评显示，BLOOMZ 176B 在 8 卡 Habana Gaudi2 上推理延迟 3.103 秒，比 A100 80GB 快 1.42x；BLOOMZ-7B 更是快 2.89x。
Hugging Face BlogAI 评分3838 Hugging Face 与 Flower 联邦学习教程：分布式微调 distilBERT
Hugging Face 发布教程，演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调，在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face BlogAI 评分5858 Hugging Face 教你用 diffusers 训练自己的 ControlNet
Hugging Face 官方博客详细讲解如何用 diffusers 训练 ControlNet，以基于面部关键点的 Uncanny Faces 模型为例，覆盖规划条件、构建数据集、训练三步流程。
Hugging Face BlogAI 评分3636 Informer 在 🤗 Transformers 中实现多变量概率时间序列预测
Informer（AAAI21 best paper）现已加入 🤗 Transformers，可用于多变量概率时间序列预测任务，即预测未来时间序列目标向量的分布。