Hugging Face 在 Datasets 上推出 SQL Console
Hugging Face 宣布在 Hub 的数据集页面上线 SQL Console，点击数据集上的 SQL Console 徽章即可在浏览器中直接对数据集运行 SQL 查询。
#Hugging Face
Hugging Face BlogAI 评分5656
Hugging Face BlogAI 评分5555 HuggingChat 发布 Community Tools，可将任意 Space 变为模型工具
HuggingChat 发布 Community Tools，可把 Hugging Face 上的任意公开 Space 变成模型可直接调用的工具，同时扩展了图像理解、视频生成和文本转语音等模态。文中给出把 Space 转成工具的字段填写方法、用 Gradio 自建骰子工具的示例、在助手中最多添加 3 个工具的用法，以及一个可复制的 RAG 工具；该功能目前仍处实验阶段。
Hugging Face BlogAI 评分5656 Hugging Face 发布 Accelerate 1.0.0 首个候选版本
Hugging Face 官方发布 Accelerate 1.0.0 的首个 release candidate，补齐了 FP8 支持（MS-AMP 与 TransformersEngine）。
Hugging Face BlogAI 评分5454 Hugging Face 与 TruffleHog 合作集成密钥扫描功能
Hugging Face 宣布与 Truffle Security 合作，将开源工具 TruffleHog 的密钥扫描能力集成到平台，其自动化扫描流水线现包含恶意软件、pickle 和密钥三类扫描，检测到已验证密钥会通过邮件通知用户。
Hugging Face BlogAI 评分5555 Hugging Face LeRobot 推出视频编码数据集格式，平均压缩至原体积 14%
Hugging Face 官方博客介绍 LeRobot 团队为机器人数据集提出的 LeRobotDataset 格式，用视频编码替代逐帧 PNG 存储视觉模态，数据集平均体积降至原始版本的 14%，最好情况低至 0.2%，同时保持完整训练能力。
Hugging Face BlogAI 评分5555 Hugging Face Hub 上五个被低估的工具及其语义搜索实战
Hugging Face 官方博客以一个自动更新的语义搜索应用为例，介绍 Hub 上五个常被忽视的工具：ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas。
Hugging Face BlogAI 评分5858 Hugging Face 推出 DataCollatorWithFlattening，让无 padding 打包训练兼容 Flash Attention 2
Hugging Face Transformers 新增 DataCollatorWithFlattening，使无 padding 的打包式指令微调训练兼容 Flash Attention 2，通过 flash_attn_varlen_func 计算 cu_seqlens 并保留序列边界，避免跨样本注意力影响收敛。
Hugging Face BlogAI 评分4444 在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 教你在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B：用 Text Generation Inference (TGI) 和 Hugging Face Deep Learning Containers。
Hugging Face BlogAI 评分4444 ggml 入门指南
Hugging Face 发布 ggml 入门教程，介绍这款用 C/C++ 编写、专注 Transformer 推理的开源机器学习库。ggml 核心库不到 5 个文件，编译后体积小于 1MB，支持 x86_64、ARM、Apple Silicon、CUDA 等硬件及量化张量，被 llama.cpp、ollama、LM Studio 等项目用于端侧 LLM。
Hugging Face Blog精选AI 评分6262 Hugging Face Transformers 推出跨模型统一工具调用 API
Hugging Face 在 Transformers 中推出跨模型统一的工具调用 API，同一份代码可在 Mistral、Cohere、NousResearch、Llama 等模型间移植，几乎无需模型特定改动，并配套辅助功能与完整文档示例。
推荐理由：文章给出统一工具调用 API 的设计取舍与完整可运行示例，读者可直接迁移方法到自己的项目中。
Hugging Face BlogAI 评分5757 Hugging Face 收购 XetHub，将为 Hub 换用自研存储后端
Hugging Face 宣布收购西雅图公司 XetHub，其团队将帮助把 Hub 仓库的存储后端从 Git LFS 换成自研的优化版本，以支撑未来 5 年数据集和模型的增长。
Hugging Face BlogAI 评分4141 Hugging Face 2024 年安全功能亮点盘点
Hugging Face 盘点了截至 2024 年 8 月 6 日 Hub 上的安全功能，分为面向所有用户的默认功能与 Enterprise Hub 高级控制两部分。
Hugging Face BlogAI 评分4444 Hugging Face 与 Albumentations AI 推出文档图像 TextImage Augmentation 数据增强教程
Hugging Face 与 Albumentations AI 合作推出面向文档图像的 TextImage Augmentation 数据增强管线，同步修改图像内容与文本标注，以解决 VLM 微调中文档图像数据集有限、常规图像变换破坏文本提取精度的问题。
Hugging Face Blog精选AI 评分6464 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充模型阵容：推出 2.6B 参数的 Gemma 2 2B（含 base 与 instruction-tuned 版本）。
推荐理由：梳理了三个新发布的定位与用法，读者可据此判断小模型在端侧和投机解码中的落地路径。
Hugging Face BlogAI 评分5656 Hugging Face 教你用 Quanto 和 Diffusers 降低扩散 Transformer 显存占用
Hugging Face 官方博客介绍如何用 Quanto 的量化工具优化 Diffusers 中 Transformer 架构的扩散管线显存占用。
Hugging Face BlogAI 评分4545 Hugging Face 推出 NVIDIA NIM API（serverless）无服务器推理服务
Hugging Face 推出 NVIDIA NIM API（serverless）无服务器推理服务，面向 Enterprise Hub 组织，基于 NVIDIA DGX Cloud 提供 Llama、Mistral 等开源模型的推理 API，兼容 OpenAI SDK，按计算时间计费（H100 GPU $8.25/小时）。
Hugging Face BlogAI 评分4545 LAVE：用 LLM 在 Docmatix 上做零样本 VQA 评测——还需要微调吗？
Hugging Face 用 LAVE（LLM-Assisted VQA Evaluation）指标对 Docmatix 约 200 张测试图做零样本评测，基线模型 MPLUGDocOwl1.5（在 DocVQA 测试子集上 ANLS 84%）的 LAVE 得分为 0.58，而 CIDER、BLEU、ANLS 分别只有 0.1411、0.0032、0.002。
Hugging Face Blog精选AI 评分9393 Hugging Face 官方介绍 Llama 3.1 系列模型及生态集成
Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态，Hub 上提供 8 个开放权重模型（3 个 base 和 5 个微调版本），涵盖 8B、70B、405B 三种尺寸，均支持 128K 上下文窗口和 8 种语言，并新增工具调用能力与更宽松的许可（允许用模型输出改进其他 LLM）。
推荐理由：详细列出三种尺寸的显存需求与量化方案，读者可据此判断自己硬件能否跑起来。
Hugging Face Blog精选AI 评分6161 Hugging Face 教程：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 官方博客讲解如何借助 WWDC 24 新发布的 Core ML 特性，在 Mac 上以不到 4GB 内存运行 Mistral 7B。
推荐理由：逐步骤给出转换与运行命令，读者可照做在 Mac 上跑起 7B 模型并了解各项新特性的作用。
Hugging Face BlogAI 评分5858 Hugging Face TGI 推出 Multi-LoRA serving：一次部署可服务 30 个模型
Hugging Face 官方博客宣布 TGI 新增 Multi-LoRA serving 功能，可在单次部署一个基座模型（如 mistralai/Mistral-7B-v0.1）后，根据请求携带的 adapter_id 动态选择对应 LoRA adapter，实现一次部署服务多个微调模型。
Hugging Face BlogAI 评分5555 Hugging Face 发布 DocVQA 数据集 Docmatix，规模达此前数据集的 240 倍
Hugging Face 发布 Docmatix 数据集，包含 240 万张图像、950 万组问答对，来自 130 万份 PDF 文档，规模是此前 DocVQA 数据集的 240 倍。
Mistral AIAI 评分5555 Mistral AI 开源数学推理模型 Mathstral 7B
Mistral AI 发布并开源专注数学与 STEM 推理的指令模型 Mathstral 7B，基于 Mistral 7B 构建，与 Project Numina 合作产出。
Hugging Face BlogAI 评分4444 如何用 distilabel 构建 Argilla 2.0 文档 Chatbot
Hugging Face 展示了如何用 distilabel 从 Argilla 2.0 技术文档生成合成数据，微调领域专用 embedding 模型，并结合向量数据库与 Gradio 构建可对话的文档 Chatbot。
Hugging Face Blog精选AI 评分6161 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize 的技术方案
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize，在私有测试集 50 题中解出 29 题。
推荐理由：详细拆解了从数据构造到解码算法的完整配方，可迁移方法多。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 TRL 和 DPO 微调视觉语言模型减少幻觉
Hugging Face 官方博客宣布 TRL 库现已支持对视觉语言模型（VLM）进行直接偏好优化（DPO），并给出完整教程。
Hugging Face BlogAI 评分4545 Hugging Face 在 Dataset Hub 上试验基于 Presidio 的自动 PII 检测报告
Hugging Face 在 Dataset Hub 上试验新功能，用开源 PII 检测工具 Presidio 为数据集生成 PII 存在情况的估算报告，帮助 ML 从业者在训练前判断数据集是否含敏感个人信息。
Hugging Face BlogAI 评分5454 Hugging Face 与 KerasHub 达成模型格式互通，KerasHub 可直接加载 300K+ Transformers 模型
Hugging Face 与 KerasHub 宣布 Transformers 与 KerasHub 共享模型保存格式，KerasHub 用户现在可以用一行代码直接加载 Hugging Face Hub 上 300K+ 的 Transformers 模型，首批支持 Gemma 1 和 2、Llama 3、PaliGemma。
Hugging Face BlogAI 评分3636 Banque des Territoires x Polyconseil x Hugging Face：用主权数据方案升级法国 EduRénov 环境项目
Banque des Territoires（CDC Group）、Polyconseil 与 Hugging Face 合作，为法国 EduRénov 学校生态改造项目开发基于 RAG 的主权数据方案，首期已于近日完成。
Hugging Face BlogAI 评分5555 Hugging Face Inference Endpoints 和 Spaces 上线 Google TPU v5e 支持
Hugging Face 宣布 Inference Endpoints 和 Spaces 自当日起支持 Google TPU v5e，用户可在 us-west1 区域选择三档配置。
Hugging Face BlogAI 评分4545 Hugging Face 推出 Dataset Search 四项新功能
Hugging Face 为 Dataset Hub 上的 Dataset Search 推出四项新功能：按数据模态（Text/Image/Audio/Tabular/Time-Series/3D/Video/Geospatial）。
Hugging Face BlogAI 评分5757 Hugging Face Transformers Agents 代码智能体在 GAIA 基准取得 44.2%
Hugging Face 用基于 Transformers Agents 库构建的 ReactCodeAgent 参加 GAIA 基准，验证集取得 44.2%，在公开榜总榜排名第一，比第二名高 4 个百分点；测试集取得 33.3%，排名第二，超过 Microsoft Autogen 的提交，并在最难的 Level 3 问题上取得最佳平均分。
Hugging Face Blog精选AI 评分7878 Hugging Face 介绍 Google 新开放模型 Gemma 2 的技术细节与生态集成
Google 发布 Gemma 2 系列开放 LLM，Hugging Face 与 Google 合作完成生态集成，Hub 上提供 4 个开放权重模型（9B 与 27B 各含 base 和指令微调版本），上下文长度 8192 tokens，27B 版本训练数据达 13 trillion tokens、9B 版本 8 trillion tokens。
推荐理由：详细拆解了滑动窗口注意力、软上限、知识蒸馏和模型合并等技术细节，便于读者理解其性能提升来源。
Hugging Face BlogAI 评分3434 XLSCOUT 推出 ParaEmbed 2.0：面向专利与 IP 的 Embedding 模型，Hugging Face 提供专家支持
XLSCOUT 推出面向专利与 IP 的专有 Embedding 模型 ParaEmbed 2.0，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分3838 Hugging Face Ethics and Society Newsletter #6：构建更好的 AI——数据质量的重要性
Hugging Face Ethics and Society Newsletter #6 探讨了 AI 开发中数据质量的重要性，以 Reddit 向 Google 提供数据导致搜索引擎出现"往披萨上加胶水"的荒谬推荐为例，说明低质量数据的危害。
Hugging Face BlogAI 评分4444 Hugging Face 与 Argilla 的 Data Is Better Together 计划回顾与展望
Hugging Face 与 Argilla 联合开源社区推进的 Data Is Better Together 计划，已发布 DIBT/10k_prompts_ranked 数据集（10K prompts，385 人参与），并基于其中 500 条 prompt 启动多语言评测项目 MPEP，荷兰语、俄语、西班牙语翻译已完成。
Hugging Face BlogAI 评分2424 Prezi 如何借助 Hugging Face Expert Support Program 加速其多模态 ML 路线图
Prezi 加入 Hugging Face Expert Support Program，将开源 re-ranker 模型引入其 Prezi AI 系统的资产搜索管线，以更低成本、更快速度和更好效果筛选图片与文本。
Hugging Face BlogAI 评分5656 BigCodeBench 发布：面向复杂函数调用的代码生成评测基准
Hugging Face Blog 宣布发布 BigCodeBench，一个包含 1,140 个函数级任务、覆盖 139 个库的代码生成评测基准，每个任务平均含 5.6 个测试用例、平均分支覆盖率达 99%，旨在替代任务过于简单且易受数据污染影响的 HumanEval。
Hugging Face BlogAI 评分5555 Hugging Face Accelerate 解析 DeepSpeed 与 FSDP 精度差异并新增对齐模式
Hugging Face Accelerate 团队发现用 Mistral-7B base 在 bfloat16 下训练时 DeepSpeed 与 FSDP 损失曲线不一致。
Hugging Face BlogAI 评分5757 Hugging Face 在 TRL 中推出 RLOO Trainer 作为 PPO 的替代方案
Hugging Face 在 TRL 中引入 RLOO（REINFORCE Leave One-Out）Trainer，作为 PPO 之外更易实现的在线 RLHF 训练算法。
Hugging Face BlogAI 评分3434 Hugging Face Transformers 文档为何需要重新设计
Hugging Face 宣布将重新设计 Transformers 文档，以解决其因多年增量式堆叠新内容而变得割裂、难导航且过时的问题。新版文档将转向以代码和解决方案为导向，面向开发者而非仅面向机器学习工程师，并用灵活的结构取代僵化的 Diátaxis 分类，让内容自然生长与整合。