Hugging Face 与 Lighthouz AI 推出 Chatbot Guardrails Arena：盲测 LLM 隐私护栏
Lighthouz AI 与 Hugging Face 联合推出 Chatbot Guardrails Arena，让用户与两个匿名 LLM 对话，尝试套取虚构银行 XYZ001 的客户敏感财务信息，再投票选出隐私保护更好的一方。
#Hugging Face
Hugging Face BlogAI 评分4545
Hugging Face Blog精选AI 评分6262 Hugging Face 开源 Cosmopedia 合成数据集与 cosmo-1b 模型
Hugging Face 发布 Cosmopedia，一个用 Mixtral-8x7B-Instruct-v0.1 生成、含超 3000 万文件和 25 billion tokens 的合成数据集，用于从零预训练大语言模型，目标是复现 Phi-1.5 的训练数据。
推荐理由：原文拆解了从几千到千万级样本的提示词工程方法，可迁移给要做大规模预训练数据的团队。
Hugging Face BlogAI 评分5555 Hugging Face 教你在 Intel Meteor Lake 笔记本上运行 Phi-2 聊天机器人
Hugging Face 通过 Optimum Intel 集成 Intel OpenVINO，将 2.7B 参数的 Phi-2 模型做 4-bit 权重量化，在搭载 Core Ultra 7 155H 的中端笔记本上运行本地推理。
Hugging Face BlogAI 评分5555 Hugging Face 介绍 GaLore 如何在消费级 GPU 上训练大模型
Hugging Face 官方博客介绍 GaLore 如何利用梯度的低秩结构和投影技术，把优化器状态显存降低超过 82.5%，从而在 NVIDIA RTX 4090 这类消费级 GPU 上训练最多 70 亿参数的 Llama 架构模型。
Hugging Face BlogAI 评分5151 Hugging Face 推出 Train on DGX Cloud 服务，可在 Hub 内用 H100 微调模型
Hugging Face 宣布推出 Train on DGX Cloud 服务，面向 Enterprise Hub 组织，可在 Hub 内通过几次点击使用 NVIDIA H100 微调 Llama、Mistral、Stable Diffusion 等模型，由 AutoTrain 和 Spaces 提供无代码训练体验。
Hugging Face BlogAI 评分5555 Hugging Face 推出 PyTorch 量化后端 quanto 并集成进 transformers
Hugging Face 发布 quanto，一个面向 Optimum 的 PyTorch 量化后端，支持 int2、int4、int8、float8 权重与 int8、float8 激活，可在 CUDA、CPU、MPS 任意设备上运行，并提供从浮点模型到动态/静态量化模型的完整工作流。
Hugging Face BlogAI 评分5353 Hugging Face 发布 WebSight-v0.2 数据集与截图转 HTML 模型 Sightseer
Hugging Face 发布 WebSight-v0.2 数据集，用于训练将网页截图转换为 HTML 代码的 AI 系统，规模扩展至 200 万组截图/HTML 对，截图改用真实图片并切换到 Tailwind CSS。
Hugging Face BlogAI 评分5454 用 Optimum Intel 和 fastRAG 在 CPU 上优化 BGE 嵌入模型
Hugging Face 官方博客展示了如何用 Optimum Intel、Intel Neural Compressor 和 IPEX 对 BGE small/base/large（45M/110M/355M 参数）做 int8 静态量化。
Hugging Face BlogAI 评分4949 Argilla 与 Hugging Face 推出 Data is Better Together，邀请社区共建数据集
Argilla 与 Hugging Face 联合发起 Data is Better Together 实验，几天内吸引 350 名社区贡献者标注出超过 11,000 条 prompt 评分，并发布数据集 10k_prompts_ranked（含 10,000 条带用户评分的 prompt）。
Hugging Face BlogAI 评分2828 在 Intel® Gaudi® 2 AI 加速器上运行 Llama 2 文本生成 Pipeline
Hugging Face 展示了如何用 Optimum Habana 的自定义 GaudiTextGenerationPipeline 在 Intel® Gaudi® 2 上以几行代码运行 Llama 2（7b、13b、70b）文本生成，涵盖预处理与后处理。
Hugging Face Blog精选AI 评分6969 BigCode 开源 StarCoder2 代码大模型与 The Stack v2 数据集
BigCode 发布开源代码大模型 StarCoder2，含 3B、7B、15B 三个尺寸，全部基于新数据集 The Stack v2 训练，模型、数据集及训练代码均开放。
推荐理由：原文列出了三个尺寸的训练规模与数据集对比，读者可据此判断小模型能否替代更大模型。
Hugging Face BlogAI 评分4747 Hugging Face 推出 TTS Arena：众包评测文本转语音模型
Hugging Face 推出 TTS Arena，一个让用户提交文本、盲听两个 TTS 模型合成语音并投票的众包评测平台，结果将汇总为排行榜。该平台采用类似 LMSys Chatbot Arena 的 Elo 评分系统，投票前不显示模型名以防偏见。首发模型包括 ElevenLabs、MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS，涵盖开源与闭源。
Hugging Face BlogAI 评分5656 Hugging Face 解读 AI 水印技术：原理、工具与各模态挑战
Hugging Face 发布博客介绍 AI 生成内容的水印技术，涵盖生成时嵌入与生成后添加两种方式，并讨论开放与闭源水印的权衡。
Hugging Face BlogAI 评分5454 Hugging Face 教程：用 PEFT 与 LoRA 微调 Gemma 模型
Hugging Face 官方博客介绍如何用 Transformers 和 PEFT 库在 GPU 与 Cloud TPU 上对 Gemma 模型做参数高效微调（PEFT）。
Hugging Face BlogAI 评分4747 Hugging Face 推出 Red-Teaming Resistance Leaderboard：用人类越狱提示词测试前沿模型的抗红队能力
Haize Labs 在 Hugging Face 团队支持下推出 Red Teaming Resistance Benchmark，用 AdvBench、Beavertails、Do Not Answer 等多个红队数据集中的高质量人类越狱提示词，系统测试前沿 LLM 在极端红队攻击下的鲁棒性。
Hugging Face BlogAI 评分5555 Hugging Face 介绍 Matryoshka 嵌入模型的训练与使用
Hugging Face 博客介绍 Matryoshka 嵌入模型的概念、训练方法与使用方式，并给出与普通嵌入模型的对比。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma，Hugging Face 完成全生态集成
Google 发布开源大模型系列 Gemma，包含 7B 和 2B 两种参数规模、各有 base 与 instruction-tuned 版本，共 4 个开放模型上线 Hugging Face Hub。
推荐理由：文章给出各尺寸模型的跑分对照和单卡微调命令，读者可据此判断在自有硬件上落地的可行性。
Hugging Face BlogAI 评分4747 Hugging Face 推出 Open Ko-LLM Leaderboard：引领韩语 LLM 评测生态
Upstage 于 2023 年 9 月发起 Open Ko-LLM Leaderboard，构建韩语 LLM 评测生态，采用 Ko-ARC、Ko-HellaSwag、Ko-MMLU、Ko-Truthful QA、Ko-CommonGEN V2 五项评测任务，并以私有测试集防止数据污染。
Hugging Face BlogAI 评分5858 Hugging Face PEFT 新增多种 LoRA 适配器合并方法
Hugging Face 在 🤗 PEFT 中发布了面向 LoRA 适配器的新合并方法，包括 cat、linear、svd、ties、dare、magnitude_prune 等多种 combination_type，可通过 add_weighted_adapter() 调用。
Hugging Face Blog精选AI 评分6868 Hugging Face 教程：用合成数据训练专用小模型，成本仅为 GPT4 API 的百分之一
Hugging Face 博客展示了用开源 LLM（Mixtral-8x7B-Instruct-v0.1）生成合成数据、再用 AutoTrain 微调约 0.13B 参数 RoBERTa-base 的完整流程。
推荐理由：通过具体成本与碳排数字对比，读者可直接判断何时该用合成数据训练专用小模型而非调用 LLM API。
Hugging Face BlogAI 评分3232 AMD Pervasive AI Developer Contest 开放报名，Hugging Face 提供模型部署支持
AMD 联合 Hugging Face 推出 Pervasive AI Developer Contest，面向全球开发者开放报名，设 Generative AI、Robotics AI、PC AI 三个赛道，单项奖金最高 $10,000 USD，总奖金 $160,000 USD，并提供 700 台 AMD 平台供参赛者使用。
Hugging Face BlogAI 评分5555 Hugging Face TGI 1.4.0 推出 OpenAI 兼容的 Messages API
Hugging Face 为 Text Generation Inference（TGI）1.4.0 和 Inference Endpoints 推出 Messages API。
Hugging Face BlogAI 评分4444 SegMoE：Segmind Mixture of Diffusion Experts 发布
Segmind 发布 SegMoE 框架，用于从零构建 Mixture-of-Experts 扩散模型，并已集成进 Hugging Face 生态、支持 diffusers。
Hugging Face Blog精选AI 评分6161 Hugging Face 开源 Constitutional AI 训练配方与 llm-swarm 工具
Hugging Face 发布用开源模型实现 Constitutional AI 的端到端配方，并开源基于 Slurm 集群、由 TGI 和 vLLM 支撑的可扩展合成数据生成工具 llm-swarm。
推荐理由：完整给出用开源模型做 Constitutional AI 的可复用配方与评测数据，便于迁移实践。
Hugging Face BlogAI 评分4444 Hugging Face Text Generation Inference 正式登陆 AWS Inferentia2 与 Amazon SageMaker
Hugging Face 宣布 Text Generation Inference (TGI) 正式在 AWS Inferentia2 和 Amazon SageMaker 上可用，为生产级 LLM 部署提供 GPU 之外的可行替代方案。
Hugging Face BlogAI 评分3434 Hugging Face 中 PatchTST 时序预测上手指南
Hugging Face 博客给出 PatchTST 时序预测模型的上手示例，先在 Electricity 数据集上直接训练并评估，再用已训练模型对 ETTh1 数据集做零样本预测，随后进行线性探测与微调。
Hugging Face BlogAI 评分4444 Patronus 推出 Enterprise Scenarios Leaderboard：面向真实企业场景的 LLM 排行榜
Patronus 团队联合 Hugging Face 推出 Enterprise Scenarios Leaderboard，基于 Hugging Face Leaderboard Template 构建。
Hugging Face BlogAI 评分4747 用 🤗 Optimum Intel 在 Xeon 上加速 StarCoder：Q8/Q4 与投机解码
Hugging Face 在 Intel 第 4 代 Xeon 上通过 8bit/4bit 量化与投机解码（assisted generation）将 StarCoder-15B 推理加速 7 倍以上。
Hugging Face BlogAI 评分4545 Hugging Face 推出 Hallucinations Leaderboard，开源评测大语言模型幻觉
Hugging Face 推出 Hallucinations Leaderboard，一个通过 in-context learning 评测大语言模型幻觉的开放持续项目，已发布 arXiv 论文。
Hugging Face BlogAI 评分4747 Hugging Face 推出 LLM Safety Leaderboard：基于 DecodingTrust 的大模型安全评测榜单
Hugging Face 联合 Secure Learning Lab 发布 LLM Safety Leaderboard，基于 2023 年获 NeurIPS 2023 杰出论文奖的 DecodingTrust 平台，使用 HF leaderboard 模板对大模型进行安全评测。
Hugging Face BlogAI 评分4949 Hugging Face 与 Google Cloud 达成战略合作，推动开放 AI 协作
Hugging Face 与 Google Cloud 宣布达成战略合作，将在开放科学、开源、云和硬件四个方向展开协作，让企业能用 Hugging Face 的开放模型和 Google Cloud 的云与硬件能力构建自有 AI。
Hugging Face BlogAI 评分5555 Hugging Face 解析 ReAct 智能体并评测开源 LLM 表现
Hugging Face 发布博客介绍 ReAct 智能体的工作原理，展示如何用 LangChain 的 ChatHuggingFace 类构建智能体，并评测多个开源 LLM 作为通用推理智能体的表现。
Hugging Face BlogAI 评分4444 Hugging Face Transformers 集成 IBM PatchTSMixer 时序模型
IBM Research 与 Hugging Face 合作，将轻量级时序模型 PatchTSMixer 开源并集成进 Transformers 库，支持在 patches、通道和隐藏特征上进行轻量混合，以及 gated attention 到 self-attention 等多种注意力机制。
Hugging Face BlogAI 评分5757 Hugging Face 实测对比 DPO、IPO、KTO 三种偏好对齐方法
Hugging Face Blog 发布对 DPO、IPO、KTO 三种无强化学习偏好对齐方法的实证评测，在 OpenHermes-2.5-Mistral-7B 和 Zephyr-7b-beta-sft 两个 7B 模型上扫描 β 从 0.01 到 0.9 的超参数并用 MT-Bench 评测。
Hugging Face BlogAI 评分5151 Hugging Face 用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 博客介绍如何用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理，在所有测试的 batch size 与步数组合上 ONNX Runtime 都优于 PyTorch，SDXL Turbo 吞吐提升最高达 229%、SD Turbo 达 120%。
Hugging Face BlogAI 评分5858 Hugging Face 教程：用 Gradio 把 ComfyUI 工作流免费跑在 Spaces ZeroGPU 上
Hugging Face 官方教程分步讲解如何把 ComfyUI 工作流转成 Gradio 应用并部署到 Hugging Face Spaces 的 ZeroGPU serverless 环境免费推理。
Hugging Face BlogAI 评分4545 如何搭建你自己的 Hugging Face 排行榜：以 Vectara 幻觉排行榜为例
Vectara 基于 Hugging Face 开源的 leaderboard template 上线了 HHEM 幻觉排行榜，用于评估 GPT-4、Google Gemini、Meta Llama 2 等 LLM 生成文档摘要时的幻觉频率。
Hugging Face BlogAI 评分5555 Hugging Face 介绍用 Unsloth 与 TRL 将 LLM 微调提速 2 倍
Hugging Face 官方博客介绍社区库 Unsloth，它与 Hub、transformers、PEFT、TRL 完全兼容，可让 LLM 微调提速 2 倍、显存占用降低 40% 且精度零损失。
Hugging Face BlogAI 评分5656 Hugging Face 开源 aMUSEd：基于掩码图像模型的高效文生图模型
Hugging Face 发布 aMUSEd，一个开源复现 Google MUSE 的非扩散文生图模型研究预览，采用 Masked Image Model 方法，参数量约 800M（含文本编码器和 VQ-GAN），推理速度快且支持零样本图像修复。
Hugging Face BlogAI 评分5858 Hugging Face 分享 SDXL Dreambooth LoRA 进阶训练指南与实验结果
Hugging Face Blog 发布了一份社区总结的 SDXL Dreambooth LoRA 进阶训练指南，将 Replicate SDXL Cog trainer 的 Pivotal Tuning 技术与 Kohya trainer 的 Prodigy 优化器等优化结合进 diffusers 训练脚本。