Hugging Face 深入排查 Open LLM Leaderboard 上 DROP 评分异常并将其下线
Hugging Face 发现 Open LLM Leaderboard 上新增的 DROP 基准中绝大多数模型 f1 分数低于 10，深入排查后决定将 DROP 从榜单移除，等待新版本。
#开源生态
Hugging Face BlogAI 评分5252
Hugging Face Blog精选AI 评分7474 Hugging Face 发布 LCM LoRA，让 SDXL 4 步完成图像生成
Hugging Face 官方博客宣布推出 Latent Consistency LoRAs（LCM LoRA），通过只训练少量 LoRA 适配器而非完整蒸馏模型，让 Stable Diffusion 和 SDXL 以 4 步完成推理，替代原本的 25 到 50 步。
推荐理由：给出了各硬件的实测耗时对比，读者可据此判断自己设备上能否跑近实时生成。
Hugging Face BlogAI 评分3838 Prodigy-HF 发布：Prodigy 与 Hugging Face 直接集成
Explosion 上周推出 Prodigy-HF 插件，通过 hf.train.ner 和 hf.train.textcat 等 recipe 让用户直接在 Prodigy 标注数据上微调 Hugging Face 模型（如 distilbert-base-uncased），并可用 hf.correct.ner 复用模型辅助标注。
Hugging Face BlogAI 评分3636 用 LoRA 对比 RoBERTa、Llama 2 和 Mistral 在灾难推文分类任务上的表现
Hugging Face 用 LoRA 微调 RoBERTa-large（355M 参数）、Llama-2-7b-hf 和 Mistral-7B-v0.1 三个模型，在 mehdiiraqui/twitter_disaster 数据集上做灾难推文二分类对比。
Hugging Face BlogAI 评分5959 Hugging Face 教你用自有代码库微调 StarCoder 打造个人编码助手
Hugging Face 官方博客介绍如何用 Hugging Face GitHub 组织公开仓库的代码微调 StarCoder，打造了解自有代码库的个人编码助手 HugCoder。
Hugging Face BlogAI 评分5757 Hugging Face 复现 OpenAI RLHF 代码库并梳理 PPO 实现细节
Hugging Face 发布博客，复现 OpenAI 2019 年的 RLHF 代码库 openai/lm-human-preferences，在 sentiment 和 descriptiveness 等风格任务上得到与原版几乎一致的学习曲线，并整理出一份实现细节清单。
Hugging Face BlogAI 评分5555 Hugging Face 推出 Gradio-lite，让 Gradio 应用纯浏览器运行
Hugging Face 发布 JavaScript 库 @gradio/lite，借助 Pyodide 让 Gradio 应用直接在浏览器中运行，无需服务器端基础设施。
Hugging Face BlogAI 评分3838 ONNX Runtime 加速 Hugging Face 上超过 130,000 个模型
ONNX Runtime 已支持 Hugging Face 上超过 130,000 个 ONNX 模型，覆盖 90 多种模型架构，包括 BERT、GPT2、DistilBERT、Stable-Diffusion、Whisper 等 11 个最热门架构。以 whisper-tiny 为例，使用 ONNX Runtime 加速后，单次推理平均延迟相比 PyTorch 最高可降低 74.30%。
Hugging Face BlogAI 评分5555 Hugging Face 为 tokenizers 引入 chat_template 属性
Hugging Face 为 tokenizers 新增 chat_template 属性，用 Jinja 模板保存模型训练时所用的对话格式，避免推理或微调时因格式不匹配导致难以察觉的性能下降。
Hugging Face BlogAI 评分3636 Hugging Face 伦理与社会通讯 #5：Hugging Face 走进华盛顿及 2023 夏日随想
Hugging Face 发布伦理与社会通讯 #5，汇总其今夏在 E.U.、U.K.、U.S. 的 AI 监管参与，包括 CEO Clem 向美国国会作证、在参议院 AI Insight Forum 发言、就 E.U. AI Act 提供建议，以及首席伦理科学家 Meg 向民主党党团提交意见。
Hugging Face BlogAI 评分4747 通过 TRL 用 DDPO 微调 Stable Diffusion 模型
Hugging Face 在 trl 库中集成了 DDPOTrainer，支持用 Denoising Diffusion Policy Optimization（DDPO）微调 Stable Diffusion 等扩散模型。
Hugging Face BlogAI 评分4949 非工程师指南：零代码用 AutoTrain 微调 LLaMA 2 聊天机器人
Hugging Face 发布教程，展示如何通过 Spaces、AutoTrain 和 ChatUI 三个步骤、零代码微调 LLaMA 2 7b 并部署为可分享的聊天应用。
Mistral AI精选AI 评分7878 Mistral AI 发布 7.3B 参数开源模型 Mistral 7B
Mistral AI 发布 7.3B 参数模型 Mistral 7B，称其在所有基准上超过 Llama 2 13B、在多数基准上超过 Llama 1 34B，代码能力接近 CodeLlama 7B。
推荐理由：原文给出了基准对比、注意力机制细节和部署入口，读者可据此评估该模型的性价比与迁移价值。
Mistral AI精选AI 评分7272 Mistral AI 发布 Mistral 7B 并阐述开放模型路线
Mistral AI 发布首个 7B 参数模型 Mistral 7B，称其在所有标准英文与代码基准上超过现有 13B 以下开源模型，以 Apache 2.0 许可开放使用。该模型基于三个月工作建成的 MLops 栈与数据处理管线，可做摘要、结构化和问答，生成速度与成本优于大型专有方案；公司同时开放 GitHub 仓库和 Discord 频道，并表示在开发商业产品的同时继续发布开源模型。
推荐理由：原文对比了开放模型与闭源 API 在定制、成本和数据隐私上的差异，读者可据此理解其开源路线的商业与技术理由。
Hugging Face BlogAI 评分4444 Llama 2 在 Amazon SageMaker 上的部署基准测试
Hugging Face 测试了 Llama 2 7B、13B、70B 在 Amazon SageMaker 上 60 多种部署配置的延迟与吞吐表现，覆盖 g5.2xlarge、g5.12xlarge、g5.48xlarge、p4d.24xlarge 四种实例与 1、5、10、20 并发请求。
Hugging Face BlogAI 评分4848 Hugging Face 推出 Inference for PROs
Hugging Face 推出面向 PRO 用户的 Inference for PROs，提供精选模型的专属 API 端点和更高的免费 Inference API 速率限制。
Hugging Face Blog精选AI 评分6262 Hugging Face 教程：生产环境优化 LLM 的三类技术与实测数据
Hugging Face 官方博客给出生产环境优化 LLM 的三类技术并附实测：低精度量化、Flash Attention 与面向长文本的架构改进。
推荐理由：原文用同一模型的实测显存与耗时数据，把量化、Flash Attention 和 KV cache 优化的取舍讲得可直接迁移。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 PyTorch FSDP 微调 Llama 2 70B
Hugging Face 官方博客给出用 PyTorch FSDP、Transformers、Accelerate 和 TRL 在多机多卡环境微调 Llama 2 70B 的完整实践，训练约 13.5 小时完成。
Hugging Face BlogAI 评分4040 SafeCoder 与闭源代码助手对比
Hugging Face 将开源企业级代码助手 SafeCoder 与 GitHub Copilot、Amazon CodeWhisperer 等闭源服务对比，强调其在透明度、可定制性、IT 灵活性和隐私安全上的优势。
Hugging Face BlogAI 评分5555 Hugging Face 与腾讯推出 T2I-Adapter-SDXL 及多种条件控制模型
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，在 diffusers 中支持 SDXL 的 T2I-Adapter，并开源 lineart、sketch、canny、depth、openpose 等条件的 checkpoints。
Hugging Face Blog精选AI 评分7676 Hugging Face 迎来 TII 的 Falcon 180B 开源模型
Hugging Face 官方博客宣布 TII 的 Falcon 180B 加入 HuggingFace 生态，这是当时最大的公开可用语言模型，拥有 180B 参数、在 RefinedWeb 数据集上训练 3.5 trillion tokens，是开源模型中最长的单轮预训练。
推荐理由：文章给出了硬件需求和量化实测，读者可据此评估自己能否跑起这个 180B 模型。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 Diffusers 四项优化把 AudioLDM 2 推理从 14 秒降到 1 秒内
Hugging Face 官方博客演示如何在 🧨 Diffusers 中优化 AudioLDM 2 的推理速度，通过 flash attention（SDPA）。
Hugging Face Blog精选AI 评分7878 Hugging Face 集成 Code Llama 模型家族
Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族，包含 7B、13B、34B 三种参数规模，以及 Python 专精版和指令微调版，采用与 Llama 2 相同的宽松社区许可并可商用。
推荐理由：原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩，便于评估其在代码任务上的定位。
Hugging Face Blog精选AI 评分6464 Hugging Face 将 AutoGPTQ 集成进 Transformers，支持 8/4/3/2-bit 量化
Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers，用户可用 GPTQ 算法把模型量化到 8、4、3 甚至 2-bit 精度运行，4-bit 量化精度损失可忽略，小 batch 下推理速度接近 fp16 基线，同时支持 Nvidia 与 RoCm AMD GPU。
推荐理由：原文给出了量化位宽、显存与延迟的实测对比，读者可据此判断能否在自己的 GPU 上跑起大模型。
Hugging Face Blog精选AI 评分6464 Hugging Face 开源发布多模态模型 IDEFICS
Hugging Face 发布开放获取的视觉语言模型 IDEFICS，作为 DeepMind 未公开的 Flamingo 的开放复现，可接受任意图像与文本序列输入并生成文本输出。
推荐理由：原文交代了复现所用的公开数据与模型组件，读者可据此理解开放复现闭源模型的具体路径。
Hugging Face BlogAI 评分4444 Hugging Face 推出 SafeCoder：面向企业的自托管代码助手方案
Hugging Face 推出 SafeCoder，一套面向企业的端到端自托管代码助手方案，核心是基于 StarCoder 系列 Code LLM（15B 参数、8,192 tokens 上下文）在客户自有代码库上微调，训练与推理全程代码不出 VPC。
Hugging Face BlogAI 评分3838 用 BentoML 部署 Hugging Face 模型：DeepFloyd IF 实战
Hugging Face 博客演示了如何用开源模型服务框架 BentoML 部署开源文生图模型 DeepFloyd IF，覆盖模型下载到 Model Store、创建 Service、构建 Bento、容器化部署到 Kubernetes 或 Yatai 的完整流程。
Hugging Face BlogAI 评分5555 Hugging Face 发布 Swift Transformers 等工具，支持在 Apple 设备上运行 Llama 2 等端侧 LLM
Hugging Face 发布 swift-transformers Swift 包、swift-chat 演示应用，以及更新版 exporters 和 transformers-to-coreml 转换工具，帮助 Swift 开发者在 Apple 设备上通过 Core ML 运行 Llama 2 等大语言模型，并提供 Llama 2 7B、Falcon 7B 等已转换模型。
Hugging Face BlogAI 评分5555 Hugging Face 教你用 DPO 微调 Llama 2
Hugging Face 官方博客介绍如何用 TRL 库中的 DPO 方法微调 Llama 2 7B 模型，DPO 绕过奖励模型和 RL 优化步骤，直接在偏好数据上用交叉熵损失优化语言模型。
Hugging Face BlogAI 评分4545 基于 FHE 的加密大语言模型：Hugging Face GPT2 实践
Zama 展示了如何用全同态加密（FHE）让 Hugging Face transformers 库中的 GPT2 在加密数据上运行推理，同时保护用户隐私和模型 IP。
Hugging Face BlogAI 评分5050 Segmind 开源 SD-Small 和 SD-Tiny 蒸馏模型的代码与权重
Segmind 开源了基于知识蒸馏压缩的 SD-Small 和 SD-Tiny 模型的训练代码与预训练权重，两者参数量分别比基础模型少 35% 和 55%，图像保真度与基础模型相当，推理速度最高提升 100%。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 Apple 推出 Stable Diffusion XL 的 Core ML 版本与混合位调色板压缩
Hugging Face 与 Apple 合作将 Stable Diffusion XL 移植到 Core ML，发布了 apple/coreml-stable-diffusion-xl-base 完整流水线和 apple/coreml-stable-diffusion-mixed-bit-palettization 版本。
推荐理由：原文给出混合位调色板压缩的逐层比特分配方法与实测体积数据，读者可迁移到自己的 Core ML 模型压缩上。
Hugging Face BlogAI 评分4646 Hugging Face 联合多家组织就 EU AI Act 提出五项开放 ML 政策建议
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件，就 EU AI Act 提出五项建议，包括明确定义 AI 组件、澄清开源协作开发不受法案要求约束、支持 AI Office 与开源生态协作、确保 R&D 例外切实可行，以及为"基础模型"设置比例适当的要求。
Hugging Face BlogAI 评分4545 Hugging Face 推出 Agents.js：用 JavaScript 为 LLM 提供工具调用能力
Hugging Face 推出 Agents.js 库，可通过 npm 安装（`@huggingface/agents`），在浏览器或 Node 端为 LLM 提供工具调用能力，内置多模态工具并支持自定义工具与模型。
Hugging Face BlogAI 评分3838 Hugging Face 首届 Open Source AI Game Jam 结果公布：Snip It 夺冠
Hugging Face 首届 Open Source AI Game Jam 于 7 月 7 日至 7 月 11 日举办，吸引超过 1300 人报名，共收到 88 个游戏作品，ohmlet 的 Snip It 获评冠军。
Hugging Face BlogAI 评分4444 Hugging Face Diffusers 庆祝一周年：回顾一年来的重要功能更新
Hugging Face 的 Diffusers 库迎来一周年，回顾了社区共同贡献的一年重要功能更新。
Hugging Face Blog精选AI 评分8888 Hugging Face 全面支持 Meta Llama 2 发布并提供推理与微调指南
Meta 发布 Llama 2 系列开放大语言模型，Hugging Face 完成生态集成，Hub 上提供 12 个开放模型（3 个基础模型与 3 个微调模型及对应 transformers 版本），采用宽松社区许可并支持商用。
推荐理由：文章给出从推理部署到单卡微调的完整路径，可直接迁移用于自己的 Llama 2 实践。
Hugging Face BlogAI 评分4949 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 盘点了其开源文本生成与 LLM 生态，涵盖 Llama 2、MPT-30B、XGen、Falcon、FLAN-T5、BLOOM 和 StarCoder 等模型。
Hugging Face BlogAI 评分5757 用 Transformers.js 打造浏览器端实时 ML 游戏 Doodle Dash 的教程
Hugging Face 官方博客介绍了如何用 Transformers.js 在浏览器中构建实时 ML 游戏 Doodle Dash，模型基于 Google Quick, Draw!
Hugging Face BlogAI 评分4141 使用 Hugging Face Inference Endpoints 部署 LLM 教程
Hugging Face Inference Endpoints 是一款托管 SaaS 服务，可通过几次点击将开源 LLM（如 Falcon 40B instruct）部署为生产级 API，支持自动扩缩容、scale-to-zero 降本与 SOC2 Type 2 安全认证。