Segmind 开源 SD-Small 和 SD-Tiny 蒸馏模型的代码与权重
Segmind 开源了基于知识蒸馏压缩的 SD-Small 和 SD-Tiny 模型的训练代码与预训练权重，两者参数量分别比基础模型少 35% 和 55%，图像保真度与基础模型相当，推理速度最高提升 100%。
#数据/训练
Hugging Face BlogAI 评分5050
Hugging Face Blog精选AI 评分8888 Hugging Face 全面支持 Meta Llama 2 发布并提供推理与微调指南
Meta 发布 Llama 2 系列开放大语言模型，Hugging Face 完成生态集成，Hub 上提供 12 个开放模型（3 个基础模型与 3 个微调模型及对应 transformers 版本），采用宽松社区许可并支持商用。
推荐理由：文章给出从推理部署到单卡微调的完整路径，可直接迁移用于自己的 Llama 2 实践。
Hugging Face BlogAI 评分3838 面向画廊、图书馆、档案馆和博物馆的 Hugging Face Hub 使用指南
Hugging Face Hub 目前托管超过 190,000 个机器学习模型、33,000 个数据集和 100,000 个机器学习应用与 demo，面向画廊、图书馆、档案馆和博物馆（GLAM）从业者介绍如何查找、使用并贡献内容。
Hugging Face BlogAI 评分5454 Hugging Face Hub 支持用 DuckDB 对 50,000+ 数据集执行 SQL 查询
Hugging Face Hub 新增功能，用户可用 DuckDB 对 Hub 上存储的 50,000+ 数据集直接执行 SQL 查询。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，可通过 /parquet 端点获取文件 URL；配合 DuckDB 的 httpfs 扩展即可远程查询这些 Parquet 文件，且支持一次查询多个分片文件。
Hugging Face Blog精选AI 评分6565 Falcon 系列模型接入 Hugging Face 生态并提供完整推理与微调指南
Hugging Face 官方博客介绍 Falcon 系列模型（Falcon-40B 与 Falcon-7B，由阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布）接入其生态的完整用法。
推荐理由：文章系统梳理了 Falcon 在 Hugging Face 生态中的推理、量化与微调路径，可直接迁移为落地参考。
Hugging Face Blog精选AI 评分8888 Hugging Face 推出基于 bitsandbytes 的 4-bit 量化与 QLoRA 集成
Hugging Face 与 bitsandbytes 再次合作，在 transformers 中支持以 4-bit 精度运行大部分 HF 模型（含文本、视觉、多模态），并可基于 4bit 模型训练适配器，对应 Dettmers 等人当天发布的 QLoRA 论文。
推荐理由：原文给出 4bit 加载的具体参数配置与显存实测对照，读者可据此在消费级显卡上复现微调方案。
Hugging Face BlogAI 评分4949 用 InstructPix2Pix 对 Stable Diffusion 进行指令微调
Hugging Face 探索了对 Stable Diffusion 进行指令微调，使其能按输入图像加指令（如"给图像加卡通滤镜"）完成图像翻译与低层图像处理任务。
Hugging Face Blog精选AI 评分6060 BigCode 背后的大规模近似去重实践
Hugging Face 官方博客详细讲解 BigCode 训练数据的文档级近似去重方法，覆盖 MinHash 加 LSH 的完整流程：shingling 分词、指纹计算、LSH 分桶、候选对聚类与去重决策。
推荐理由：系统梳理了 MinHash 加 LSH 的去重流程与四种扩展方案，并给出参数取舍的实验依据，可直接迁移到自有数据集。
Hugging Face BlogAI 评分4545 用 🤗 Transformers 结合 TensorFlow 和 TPU 从零训练语言模型
Hugging Face 发布教程，演示如何用 🤗 Transformers 配合 TensorFlow 和 TPUStrategy 在 TPU 上从零训练 RoBERTa（base）掩码语言模型。
Hugging Face BlogAI 评分4141 Databricks 向 Hugging Face 提交首个官方代码：大语言模型训练与调优提速最高 40%
Databricks 向 Hugging Face 代码库提交首个官方 commit，在 Datasets 中新增 `from_spark` 函数，可直接把 Spark dataframe 转成 Hugging Face dataset。
Hugging Face BlogAI 评分3838 用 Substra 构建隐私保护 AI：Hugging Face 联合推出联邦学习演示空间
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间，展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重，数据保留在本地，可在医疗等敏感领域打破数据孤岛，同时满足 HIPAA 等隐私法规。演示中可调整数据分布，观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Hugging Face Blog精选AI 评分7171 Hugging Face 发布 StackLLaMA：用 RLHF 训练 LLaMA 回答 Stack Exchange 问题的实战指南
Hugging Face 发布 StackLLaMA 模型与配套教程，展示用 SFT、奖励模型和 RLHF 三步在 LLaMA 7B 上训练 Stack Exchange 问答能力的完整流程，模型已上线 Hub，训练管线收录于 TRL 库。
推荐理由：教程完整给出 RLHF 三阶段的可复现代码与显存估算，读者可据此在单卡上跑通流程。
Hugging Face BlogAI 评分3838 Hugging Face 与 Flower 联邦学习教程：分布式微调 distilBERT
Hugging Face 发布教程，演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调，在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face Blog精选AI 评分6868 Hugging Face 官方发布 TRL 与 PEFT 集成，24GB 消费级 GPU 可用 RLHF 微调 20B 模型
Hugging Face 官方正式发布 trl 与 peft 的集成，让大语言模型的 RLHF 微调在消费级硬件上更易实现。文中给出三步流程：用 8-bit 精度加载活跃模型、通过 peft 添加可训练的低秩适配器、利用 disable_adapters 复用同一模型同时得到参考与活跃 logits，从而省去两份模型副本。
推荐理由：原文拆解了 8-bit 加载、LoRA 适配器与复用同一模型的三步流程，读者可直接迁移到自己的显存受限训练场景。
Hugging Face BlogAI 评分3333 Fetch 借助 Hugging Face on AWS 整合 AI 工具，节省 30% 开发时间
Fetch 通过 AWS Marketplace 上的 Hugging Face Expert Acceleration Program，用自研 AI 模型替换第三方"黑盒"方案，开发时间缩短 30%、处理延迟降低 50%，并以影子管线（shadow pipeline）在不中断业务的情况下完成切换。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 PEFT 库，支持参数高效微调
Hugging Face 推出 🤗 PEFT 库，与 🤗 Transformers 和 🤗 Accelerate 无缝集成，目前支持 LoRA、Prefix Tuning、P-Tuning v2、Prompt Tuning、P-Tuning 等方法。
推荐理由：原文给出了在消费级硬件上微调大模型的具体配置与产出体积对比，可直接迁移复用。
Hugging Face Blog精选AI 评分6565 Hugging Face 介绍如何用 LoRA 高效微调 Stable Diffusion
Hugging Face 官方博客介绍如何在 diffusers 中用 LoRA 微调 Stable Diffusion，训练可在 11 GB 显存的 2080 Ti 上完成，训练出的权重仅约 3 MB，比 UNet 原始体积小约一千倍。
推荐理由：原文给出可直接复用的训练脚本与推理代码，并说明 LoRA 相比全量微调在显存和权重体积上的具体收益。
Hugging Face Blog精选AI 评分6060 Hugging Face 解读让对话智能体更有用的关键技术
Hugging Face 博客梳理了 ChatGPT 背后的 RLHF、IFT、SFT、CoT、红队测试等技术，对比了 LaMDA、BlenderBot 3、Sparrow、InstructGPT、Assistant 在公开访问、训练数据、模型架构和评测维度上的差异。
推荐理由：通过对比表和分类梳理，读者可快速理解 IFT、SFT、RLHF、CoT 各自作用与数据需求差异。
Hugging Face BlogAI 评分4444 用 Intel Sapphire Rapids 加速 PyTorch 训练（上）
Hugging Face 介绍如何在 AWS 上用 Intel 第四代 Xeon Sapphire Rapids 服务器集群加速 PyTorch 训练，通过 Intel oneAPI CCL 分布式训练并用 IPEX 自动启用 AMX 新指令，代码无需改动。
Hugging Face BlogAI 评分4444 Hugging Face 音频数据集完全指南
Hugging Face 发布音频数据集完全指南，介绍开源库 🤗 Datasets 如何用一行 Python 代码（load_dataset）下载并准备音频数据。
Hugging Face BlogAI 评分4949 Hugging Face 谈机器学习中的偏见：伦理与社会通讯 #2
Hugging Face 伦理与社会团队发布通讯 #2，系统梳理机器学习开发各阶段应对偏见的经验与工具。文章指出 ML 模型作为社会技术系统会放大不平等，单一技术干预难以解决，需结合部署语境持续响应反馈。文中按任务定义、数据集筛选、模型训练等环节推荐了 🤗 团队开发的偏见分析工具。
Hugging Face BlogAI 评分4545 如何用 Megatron-LM 训练语言模型
Hugging Face 博客给出在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 模型的完整教程，涵盖环境搭建、数据预处理、训练与模型转换到 🤗 Transformers 四个步骤。
Hugging Face BlogAI 评分3636 使用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT 教程
Hugging Face 发布教程，讲解如何在 AWS 的 Habana Gaudi DL1 实例上，用 Hugging Face Transformers、Optimum Habana 和 Datasets 库从零预训练 BERT-base 模型。
Hugging Face BlogAI 评分4444 Hugging Face 🤗 Datasets 推出音频与图像数据集新文档
Hugging Face 为 🤗 Datasets 新增音频与图像数据集文档，Quickstart 更新了多模态端到端示例，并推出 to_tf_dataset 函数，可将数据集直接转为 tf.data.Dataset。
Hugging Face BlogAI 评分3838 Hugging Face 教你用对抗数据动态训练模型
Hugging Face 以 MNIST 手写数字识别为例，演示如何通过 🤗 Spaces 动态收集对抗数据并迭代训练模型：用户在画布上手写数字骗过模型，flag 后存入数据集并重新训练，循环多轮提升鲁棒性。
Hugging Face BlogAI 评分5656 Hugging Face 解析 BLOOM 176B 模型训练背后的软硬件技术
Hugging Face 官方博客详细解析了 176B 参数多语言模型 BLOOM 的训练技术，硬件为 384 张 A100 80GB GPU，软件栈为 Megatron-DeepSpeed，数据为 59 种语言的 350B tokens，训练耗时约 3.5 个月（约 1M compute hours）。
OpenAI NewsAI 评分5555 OpenAI 发布 Video PreTraining（VPT）让模型学会玩 Minecraft
OpenAI 通过在大规模人类 Minecraft 玩法无标注视频上做 Video PreTraining（VPT），配合少量标注承包商数据，训练出一个神经网络来玩 Minecraft。微调后该模型能合成钻石工具，这一任务通常需要熟练人类耗时 20 分钟以上（24,000 次动作）；模型使用键盘按键和鼠标移动这一原生人类接口，较为通用，是迈向通用计算机使用智能体的一步。
OpenAI NewsAI 评分1515 训练大型神经网络的技术
OpenAI 指出，大型神经网络是近期 AI 多项进展的核心，但训练它们是一项困难的工程与研究挑战，需要协调 GPU 集群执行单一的同步计算。
Hugging Face BlogAI 评分4444 TAPEX：用合成 SQL 执行数据做表格预训练的介绍
TAPEX 通过在合成语料上学习神经 SQL 执行器来完成表格预训练，无需真实数据，在 WikiSQL、WikiTableQuestions、SQA、TabFact 四个 benchmark 上全部刷新 SOTA。
Hugging Face BlogAI 评分2525 Machine Learning Experts 播客：Hugging Face 研究员 Sasha Luccioni 谈 ML 模型的伦理与碳足迹
Hugging Face 播客 Machine Learning Experts 本期嘉宾为 Hugging Face 研究科学家 Sasha Luccioni，她负责研究机器学习模型与数据集的伦理和社会影响，并担任 Big Science Workshop 碳足迹工作组联合主席。
OpenAI News精选AI 评分7676 OpenAI 发布 InstructGPT 并设为 API 默认模型
OpenAI 发布 InstructGPT 系列语言模型，称其遵循用户意图的能力优于 GPT-3，同时更真实、毒性更低，采用对齐研究中的人类参与训练技术，现已在 API 中设为默认语言模型。
推荐理由：说明了用人类反馈对齐技术让模型更好遵循指令并降低毒性，可迁移至同类模型训练。
Hugging Face BlogAI 评分3636 用 AutoNLP 和 Prodigy 构建主动学习流水线
Hugging Face 介绍了如何用 AutoNLP 和 Prodigy 搭建主动学习流水线：先用 Prodigy 对 BBC News Classification 数据集标注 NER 标签（PERSON、ORG、PRODUCT、LOCATION），再将标注数据转换为 AutoNLP 格式训练模型。
Hugging Face BlogAI 评分5656 Hugging Face 教你从零训练代码生成模型 CodeParrot
Hugging Face 发布教程，讲解如何从零训练用于 Python 代码补全的 GPT-2 模型 CodeParrot。
Hugging Face BlogAI 评分5555 Hugging Face 推出开源 Data Measurements Tool 数据集度量工具
Hugging Face 发布开源 Python 库与无代码界面 Data Measurements Tool（DMT），基于 Dataset 和 Spaces Hubs 配合 Streamlit 构建，可在线构建、度量和比较数据集。
Hugging Face BlogAI 评分3838 用 Intel 技术加速 PyTorch 分布式微调
Hugging Face 演示了如何在 Intel Xeon Scalable（Ice Lake 架构）CPU 集群上加速 PyTorch 分布式微调，通过 Intel extension for PyTorch 与 Intel oneAPI Collective Communications Library（oneCCL）优化训练与通信。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 Transformers 微调 XLS-R 做低资源语音识别
Hugging Face 官方博客给出用 🤗 Transformers 微调 Wav2Vec2-XLS-R-300M 做低资源 ASR 的完整流程，以 Common Voice 土耳其语约 4h 验证训练数据为例。
Hugging Face BlogAI 评分3636 用遥感卫星图像与描述微调 CLIP
一个跨 12 个时区的团队在 Hugging Face Flax/JAX Community Week 期间，用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP 模型，使其能用文本查询检索卫星图像。
OpenAI NewsAI 评分5151 OpenAI 用人类反馈总结书籍的研究
OpenAI 发布研究 Summarizing books with human feedback，探讨如何为难以评估的任务扩展对 AI 系统的人类监督。
Hugging Face BlogAI 评分5656 Hugging Face 用 DeDLOC 协作预训练孟加拉语模型 sahajBERT
Hugging Face 介绍新方法 DeDLOC，让志愿者通过互联网协作预训练语言模型，并用 40 名志愿者训练出孟加拉语模型 sahajBERT。
OpenAI NewsAI 评分4141 OpenAI：通过在精选数据集上微调改进语言模型行为
OpenAI 研究发现，在一个小型精选数据集上微调，可以改进语言模型在特定行为价值观上的表现。该方法只需少量精选数据即可实现对模型行为的定向调整。