Hugging Face 拆解 FineVideo 数据集的构建流水线
Hugging Face 发布并详解 FineVideo 数据集的构建过程，该数据集包含 43k 段视频、共 3.4k 小时，配有丰富描述、场景切分和 QA 对。
全部 AI 动态
Hugging Face BlogAI 评分5555
Hugging Face BlogAI 评分4444 用 Optimum-Intel 和 OpenVINO GenAI 优化并部署 Hugging Face Transformers 模型
Hugging Face 介绍了用 Optimum-Intel 和 OpenVINO GenAI 优化并部署 Transformers 模型的完整流程，涵盖导出 OpenVINO IR、权重量化与 GenAI API 部署。
Hugging Face BlogAI 评分5959 Hugging Face 将 Llama3 8B 微调至 1.58bit 并开源模型
Hugging Face 官方博客介绍如何用 BitNet 架构把 Llama3 8B 微调到 1.58bit（每参数仅 -1/0/1 三值），模型已发布在 HF1BitLLM 组织下，其中两个用 10B tokens 微调、一个用 100B tokens 微调，MMLU 成绩超过 Llama 1 7B。
OpenAI NewsAI 评分1010 OpenAI：从数百个成功部署中总结的 AI 落地经验
OpenAI 发布了基于数百个成功企业部署案例总结的 AI 落地经验，主题为"Put AI to Work"。原文正文仅提供标题信息，未包含具体案例细节、模型版本、参数规模或 benchmark 数据。
Hugging Face BlogAI 评分5555 Hugging Face LeRobot 推出视频编码数据集格式，平均压缩至原体积 14%
Hugging Face 官方博客介绍 LeRobot 团队为机器人数据集提出的 LeRobotDataset 格式，用视频编码替代逐帧 PNG 存储视觉模态，数据集平均体积降至原始版本的 14%，最好情况低至 0.2%，同时保持完整训练能力。
Hugging Face BlogAI 评分5555 Hugging Face Hub 上五个被低估的工具及其语义搜索实战
Hugging Face 官方博客以一个自动更新的语义搜索应用为例，介绍 Hub 上五个常被忽视的工具：ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas。
Hugging Face BlogAI 评分4444 在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 教你在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B：用 Text Generation Inference (TGI) 和 Hugging Face Deep Learning Containers。
Hugging Face BlogAI 评分5454 Hugging Face 复现 Infini-attention 长上下文实验的失败与教训
Hugging Face 团队复现 Google 的 Infini-attention 论文，尝试把 Llama 3 8B 的 8k 上下文扩展到 100 万 token，最终发现该方法表现随压缩次数增加而变差，认为 Ring Attention、YaRN 和 rope scaling 仍是更好的长上下文扩展方案。
Hugging Face BlogAI 评分4444 ggml 入门指南
Hugging Face 发布 ggml 入门教程，介绍这款用 C/C++ 编写、专注 Transformer 推理的开源机器学习库。ggml 核心库不到 5 个文件，编译后体积小于 1MB，支持 x86_64、ARM、Apple Silicon、CUDA 等硬件及量化张量，被 llama.cpp、ollama、LM Studio 等项目用于端侧 LLM。
Hugging Face BlogAI 评分4444 Hugging Face 与 Albumentations AI 推出文档图像 TextImage Augmentation 数据增强教程
Hugging Face 与 Albumentations AI 合作推出面向文档图像的 TextImage Augmentation 数据增强管线，同步修改图像内容与文本标注，以解决 VLM 微调中文档图像数据集有限、常规图像变换破坏文本提取精度的问题。
Hugging Face BlogAI 评分5656 Hugging Face 教你用 Quanto 和 Diffusers 降低扩散 Transformer 显存占用
Hugging Face 官方博客介绍如何用 Quanto 的量化工具优化 Diffusers 中 Transformer 架构的扩散管线显存占用。
Hugging Face BlogAI 评分4545 LAVE：用 LLM 在 Docmatix 上做零样本 VQA 评测——还需要微调吗？
Hugging Face 用 LAVE（LLM-Assisted VQA Evaluation）指标对 Docmatix 约 200 张测试图做零样本评测，基线模型 MPLUGDocOwl1.5（在 DocVQA 测试子集上 ANLS 84%）的 LAVE 得分为 0.58，而 CIDER、BLEU、ANLS 分别只有 0.1411、0.0032、0.002。
Hugging Face Blog精选AI 评分6161 Hugging Face 教程：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 官方博客讲解如何借助 WWDC 24 新发布的 Core ML 特性，在 Mac 上以不到 4GB 内存运行 Mistral 7B。
推荐理由：逐步骤给出转换与运行命令，读者可照做在 Mac 上跑起 7B 模型并了解各项新特性的作用。
Hugging Face BlogAI 评分4444 如何用 distilabel 构建 Argilla 2.0 文档 Chatbot
Hugging Face 展示了如何用 distilabel 从 Argilla 2.0 技术文档生成合成数据，微调领域专用 embedding 模型，并结合向量数据库与 Gradio 构建可对话的文档 Chatbot。
Hugging Face Blog精选AI 评分6161 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize 的技术方案
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize，在私有测试集 50 题中解出 29 题。
推荐理由：详细拆解了从数据构造到解码算法的完整配方，可迁移方法多。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 TRL 和 DPO 微调视觉语言模型减少幻觉
Hugging Face 官方博客宣布 TRL 库现已支持对视觉语言模型（VLM）进行直接偏好优化（DPO），并给出完整教程。
Hugging Face BlogAI 评分3636 Banque des Territoires x Polyconseil x Hugging Face：用主权数据方案升级法国 EduRénov 环境项目
Banque des Territoires（CDC Group）、Polyconseil 与 Hugging Face 合作，为法国 EduRénov 学校生态改造项目开发基于 RAG 的主权数据方案，首期已于近日完成。
Hugging Face BlogAI 评分3434 在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST 推理与微调
Intel 和 MILA 将蛋白质多模态语言模型 ProtST 重构后发布到 Hugging Face Hub，并演示了用 Optimum for Intel Gaudi 在 Gaudi 2 上运行推理与微调。
Hugging Face BlogAI 评分5555 Hugging Face 教程：如何微调 Florence-2 完成 DocVQA 文档问答
Hugging Face 发布教程，展示如何将微软 Florence-2 微调到 DocVQA 数据集上获得 VQA 能力：微调前验证集 Levenshtein 相似度为 0，训练 7 个 epoch 后提升到 57.0。
Hugging Face BlogAI 评分3838 Hugging Face Ethics and Society Newsletter #6：构建更好的 AI——数据质量的重要性
Hugging Face Ethics and Society Newsletter #6 探讨了 AI 开发中数据质量的重要性，以 Reddit 向 Google 提供数据导致搜索引擎出现"往披萨上加胶水"的荒谬推荐为例，说明低质量数据的危害。
Hugging Face BlogAI 评分4444 Hugging Face 与 Argilla 的 Data Is Better Together 计划回顾与展望
Hugging Face 与 Argilla 联合开源社区推进的 Data Is Better Together 计划，已发布 DIBT/10k_prompts_ranked 数据集（10K prompts，385 人参与），并基于其中 500 条 prompt 启动多语言评测项目 MPEP，荷兰语、俄语、西班牙语翻译已完成。
Hugging Face BlogAI 评分2424 Prezi 如何借助 Hugging Face Expert Support Program 加速其多模态 ML 路线图
Prezi 加入 Hugging Face Expert Support Program，将开源 re-ranker 模型引入其 Prezi AI 系统的资产搜索管线，以更低成本、更快速度和更好效果筛选图片与文本。
Hugging Face BlogAI 评分5555 Hugging Face Accelerate 解析 DeepSpeed 与 FSDP 精度差异并新增对齐模式
Hugging Face Accelerate 团队发现用 Mistral-7B base 在 bfloat16 下训练时 DeepSpeed 与 FSDP 损失曲线不一致。
Hugging Face BlogAI 评分3434 Hugging Face Transformers 文档为何需要重新设计
Hugging Face 宣布将重新设计 Transformers 文档，以解决其因多年增量式堆叠新内容而变得割裂、难导航且过时的问题。新版文档将转向以代码和解决方案为导向，面向开发者而非仅面向机器学习工程师，并用灵活的结构取代僵化的 Diátaxis 分类，让内容自然生长与整合。
Hugging Face BlogAI 评分4444 Hugging Face TGI Benchmarking 工具：如何剖析 Text Generation Inference 的吞吐与延迟权衡
Hugging Face 推出 TGI Benchmarking 工具，用于剖析 Text Generation Inference（TGI）部署的吞吐与延迟权衡，帮助用户按需调优。
Hugging Face BlogAI 评分5555 Hugging Face 官方教程：用 Sentence Transformers 微调与训练 Embedding 模型
Hugging Face 官方博客给出使用 Sentence Transformers 微调或从零训练 Embedding 模型的完整教程，覆盖数据集、损失函数、训练参数、评估器与 Trainer 各组件。
Hugging Face BlogAI 评分3636 如何用 Intel Gaudi 2 和 Intel Xeon 构建高性价比的企业级 RAG 应用
Hugging Face 与 Intel 演示了如何基于 OPEA 平台，用 Intel Gaudi 2 加速器和 Xeon CPU 构建高性价比的企业级 RAG 应用。
Hugging Face BlogAI 评分5454 Hugging Face 教程：在 Inference Endpoints 上部署 Whisper ASR、说话人分离与投机解码管线
Hugging Face 官方博客介绍如何用自定义 inference handler 在 Inference Endpoints 上部署 Whisper ASR、Pyannote 说话人分离与投机解码的组合管线，代码拆分为 handler.py、diarization_utils.py 和 config.py 三个文件。
Hugging Face BlogAI 评分5656 Hugging Face 与 Dottxt 研究结构化生成如何提升 prompt 一致性
Hugging Face Leaderboards and Evals 团队与 Dottxt 合作研究发现，MMLU 上仅改变 prompt 格式就能让模型分数波动约 10 个点，Qwen1.5-7B 在不同格式下准确率从 51.2% 跌至 22.9%，few-shot 顺序变化也可带来最多 3 分差异，且模型排名会随之改变。
Hugging Face BlogAI 评分4444 Hugging Face Endpoints 上运行隐私保护推理（Zama 客座教程）
Zama 在 Hugging Face 上提供预编译的 Concrete ML 模型，用户可通过 Hugging Face Endpoints 和 custom inference handlers 一键部署全同态加密（FHE）隐私保护推理。
Hugging Face BlogAI 评分4545 Gradio reload mode 如何快速构建 AI 应用
Gradio 的 reload mode 让开发者用 `gradio app.py` 启动应用后，源码改动即时生效、无需重启服务器，UI 更新瞬间可见。相比 uvicorn 自带的自动重载，它支持选择性重载，可用 `if gr.NO_RELOAD:` 标记不需重载的代码（如已加载的 AI 模型或 InferenceClient），避免每次改动都重新加载模型。
Hugging Face BlogAI 评分5555 Hugging Face 博客讲解视觉语言模型原理与微调方法
Hugging Face 官方博客介绍视觉语言模型的构成、开源模型概览、选型与评测方式，并给出用 transformers 推理和用 TRL SFTTrainer 微调的完整代码。
Hugging Face BlogAI 评分4444 用 Hugging Face Dataset Viewer API 和 DuckDB-NSQL-7B 实现 Text2SQL
DuckDB-NSQL-7B-v0.1 是 MotherDuck 和 Numbers Station 基于 Llama-2-7b 微调的 DuckDB SQL 专用 LLM，可将自然语言转为有效 DuckDB SQL。
Hugging Face BlogAI 评分4444 用 🤗 Optimum Intel 在 Xeon 上实现 7.8 倍加速的 SetFit 推理
Hugging Face 展示了如何用 🤗 Optimum Intel 将 SetFit 模型在 Intel Xeon CPU 上的推理速度提升 7.8 倍，通过 Intel Neural Compressor 对模型主体做 post-training static quantization（PTQ）即可实现。
Hugging Face BlogAI 评分5959 Hugging Face 讲解嵌入向量二值与标量量化以加速降本检索
Hugging Face 博客介绍嵌入向量的二值（binary）与标量（int8）量化方法，可在保持大部分检索性能的同时大幅降低内存、磁盘与成本。
Hugging Face BlogAI 评分4141 Hugging Face Transformers 新手入门教程
Hugging Face 发布了一篇面向零基础读者的 Hugging Face Transformers 入门教程，通过在 Hugging Face Spaces 上部署 JupyterLab notebook 并运行 Microsoft 的 Phi-2 LLM 的完整示例，讲解 Transformers 库、Hub、Spaces 等核心概念。
Hugging Face BlogAI 评分5555 Hugging Face 教你在 Intel Meteor Lake 笔记本上运行 Phi-2 聊天机器人
Hugging Face 通过 Optimum Intel 集成 Intel OpenVINO，将 2.7B 参数的 Phi-2 模型做 4-bit 权重量化，在搭载 Core Ultra 7 155H 的中端笔记本上运行本地推理。
Hugging Face BlogAI 评分5555 Hugging Face 介绍 GaLore 如何在消费级 GPU 上训练大模型
Hugging Face 官方博客介绍 GaLore 如何利用梯度的低秩结构和投影技术，把优化器状态显存降低超过 82.5%，从而在 NVIDIA RTX 4090 这类消费级 GPU 上训练最多 70 亿参数的 Llama 架构模型。
Hugging Face BlogAI 评分5454 用 Optimum Intel 和 fastRAG 在 CPU 上优化 BGE 嵌入模型
Hugging Face 官方博客展示了如何用 Optimum Intel、Intel Neural Compressor 和 IPEX 对 BGE small/base/large（45M/110M/355M 参数）做 int8 静态量化。
Hugging Face BlogAI 评分2828 在 Intel® Gaudi® 2 AI 加速器上运行 Llama 2 文本生成 Pipeline
Hugging Face 展示了如何用 Optimum Habana 的自定义 GaudiTextGenerationPipeline 在 Intel® Gaudi® 2 上以几行代码运行 Llama 2（7b、13b、70b）文本生成，涵盖预处理与后处理。