Hugging Face 发布新版内容指南与政策
Hugging Face 更新了平台内容政策(Content Policy),以"同意"(consent)为核心价值,规范用户所见内容以及个人身份与表达的呈现方式。
Hugging Face 更新了平台内容政策(Content Policy),以"同意"(consent)为核心价值,规范用户所见内容以及个人身份与表达的呈现方式。
Hugging Face 宣布 AMD 正式加入其 Hardware Partner Program,双方将共同在 AMD CPU 和 GPU 上实现前沿 transformer 模型的性能优化。
Hugging Face Hub 目前托管超过 190,000 个机器学习模型、33,000 个数据集和 100,000 个机器学习应用与 demo,面向画廊、图书馆、档案馆和博物馆(GLAM)从业者介绍如何查找、使用并贡献内容。
Hugging Face 扩展 Open LLM Leaderboard,用 Scale AI 人类标注与 GPT-4 评测对比 Koala 13b、Vicuna 13b、OpenAssistant 12b、Dolly 12b 等开源模型在 327 条指令 prompt 上的表现。
Hugging Face Hub 新增功能,用户可用 DuckDB 对 Hub 上存储的 50,000+ 数据集直接执行 SQL 查询。数据集查看器会自动将所有公开数据集转换为 Parquet 文件,可通过 /parquet 端点获取文件 URL;配合 DuckDB 的 httpfs 扩展即可远程查询这些 Parquet 文件,且支持一次查询多个分片文件。
Hugging Face 与 Meta AI 合作,将 fastText 的官方镜像托管到 Hub,包括全部 157 种语言的词向量和最新的语言识别模型,用户可用几条命令下载使用。
Hugging Face 官方博客介绍 Falcon 系列模型(Falcon-40B 与 Falcon-7B,由阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布)接入其生态的完整用法。
推荐理由:文章系统梳理了 Falcon 在 Hugging Face 生态中的推理、量化与微调路径,可直接迁移为落地参考。
这篇教程演示如何用 Hugging Face Unity API 在 Unity 游戏中实现语音识别,可用于下达指令、与 NPC 对话或提升无障碍体验。
Hugging Face 宣布举办首届 Open Source AI Game Jam,参赛者需在 7 月 7-9 日的周末内用至少一个开源 AI 工具(如 Stable Diffusion)制作一款游戏,可用于纹理生成、AI NPC 或 text-to-speech 等环节。
Hugging Face 推出 LLM Inference Container(DLC),可在 Amazon SageMaker 上部署开源 LLM,底层由 Text Generation Inference(TGI)驱动。
Hugging Face Hub 推出 BERTopic 集成,可直接在 Hub 上对模型和数据集进行主题建模。集成后可自动聚类并生成主题标签,例如 dialogue(14247)、speech asr(1833)、tuning(1369)等,覆盖问答、摘要、情感分析等常见 NLP 任务。
Hugging Face 用 OpenVINO NNCF 的量化感知训练(QAT)结合 Token Merging 优化 Stable Diffusion,相比 PyTorch 实现 5.1x 推理加速和 4x 模型体积缩减。优化仅需 4096 次迭代,用一块 24 GB 显存的 GPU 不到一天即可完成。优化后的模型适合在客户端或边缘 CPU 等算力受限设备上运行。
Hugging Face 与 bitsandbytes 再次合作,在 transformers 中支持以 4-bit 精度运行大部分 HF 模型(含文本、视觉、多模态),并可基于 4bit 模型训练适配器,对应 Dettmers 等人当天发布的 QLoRA 论文。
推荐理由:原文给出 4bit 加载的具体参数配置与显存实测对照,读者可据此在消费级显卡上复现微调方案。
Hugging Face 与 Microsoft 合作,在 Azure Machine Learning Studio 内原生上线 Hugging Face Model Catalog,收录 Hugging Face Hub 上数千个热门 Transformers 模型,用户只需几次点击即可在托管端点上完成部署。
Hugging Face 宣布与 IBM 合作,为其新一代企业 AI studio watsonx.ai 提供支持。
Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库进行外部安全审计,结果显示未发现可导致任意代码执行的严重漏洞,仅修复了规范不精确和缺失校验导致的 polyglot 文件问题。
Hugging Face 探索了对 Stable Diffusion 进行指令微调,使其能按输入图像加指令(如"给图像加卡通滤镜")完成图像翻译与低层图像处理任务。
Hugging Face 与 Intel 推出 Q8-Chat,基于 SmoothQuant 8-bit 量化技术让 LLM 在 Intel CPU 上高效运行,模型体积缩小约 2 倍且精度基本无损。
Hugging Face 官方博客详细讲解 BigCode 训练数据的文档级近似去重方法,覆盖 MinHash 加 LSH 的完整流程:shingling 分词、指纹计算、LSH 分桶、候选对聚类与去重决策。
推荐理由:系统梳理了 MinHash 加 LSH 的去重流程与四种扩展方案,并给出参数取舍的实验依据,可直接迁移到自有数据集。
Hugging Face 被法国数据保护机构 CNIL 选中,进入其强化支持(Enhanced Support)计划,该计划从 40 多家候选企业中选出 3 家"经济发展潜力强"的公司,提供数据保护合规方面的指导。
Hugging Face 官方博客宣布 RWKV 架构已通过 Pull Request 集成进 transformers 库,可通过源码安装或 main 分支使用,支持 pipeline 文本生成与 alpaca 风格的 RWKV-4 Raven 聊天模型调用,并提供 convert_rwkv_checkpoint_to_hf.py 脚本转换原始权重。
推荐理由:原文对比了 RWKV 与 Transformer、RNN 的取舍并给出可直接运行的代码,便于读者判断其适用场景。
Hugging Face 在 🤗 Transformers 的 .generate() 中推出新解码方法 assisted generation,用小模型生成候选 token、再由目标模型一次前向验证,在普通硬件上最高可将延迟降低 10x。
推荐理由:原文拆解了延迟瓶颈并给出可复现的加速数字,读者可据此判断该方法是否适配自己的部署场景。
Hugging Face 官方博客讲解如何把 BigCode 的 16B 参数开源代码模型 StarCoder 微调成对话式编码助手 StarChat。
推荐理由:完整给出从数据准备、ChatML 格式化到 DeepSpeed 训练与评测的可复现流程,适合想动手微调代码模型的读者。
Hugging Face 官方博客系统梳理了文生视频模型的过去、现在与未来,对比其与文生图任务的差异,指出计算成本高、高质量数据集稀缺、视频描述模糊等核心挑战。
Hugging Face 与 ServiceNow 联合的 BigCode 项目发布代码大模型 StarCoder 和 StarCoderBase,基于 80+ 编程语言等许可数据训练,约 15B 参数、1 trillion tokens。
推荐理由:原文给出评测数据和提示词技巧,读者可了解开源代码模型的水平及提升分数的具体做法。
Hugging Face Unity API 让开发者在 Unity 项目中通过 Inference API 调用 Hugging Face 模型,安装时在 Package Manager 中添加 git URL 并在 API Wizard 填入 API key 即可。
Hugging Face 发布教程,演示如何用 🤗 Transformers 配合 TensorFlow 和 TPUStrategy 在 TPU 上从零训练 RoBERTa(base)掩码语言模型。
Databricks 向 Hugging Face 代码库提交首个官方 commit,在 Datasets 中新增 `from_spark` 函数,可直接把 Spark dataframe 转成 Hugging Face dataset。
Hugging Face 官方博客给出完整教程,用 🧨 diffusers 在免费版 Google Colab(13 GB CPU RAM、15 GB VRAM 的 T4)上运行 DeepFloyd 的 IF 文生图模型。
Hugging Face 推出面向中文使用者的官方博客 hf.co/blog/zh,由志愿者团队翻译 transformers、diffusion、强化学习等博客与课程资源。
Hugging Face Spaces 除了托管机器学习 demo,还可以直接托管可玩的 Unity 游戏。
Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum-neuron 一行代码即可编译模型,无需切分或修改。
Hugging Face 教程演示如何用 Transformers 库(版本 >= 4.27.2)对图数据做分类,使用的是库中目前唯一的图 Transformer 模型 Microsoft Graphormer。
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间,展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重,数据保留在本地,可在医疗等敏感领域打破数据孤岛,同时满足 HIPAA 等隐私法规。演示中可调整数据分布,观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Snorkel AI 与 Hugging Face 合作,通过 Hugging Face Inference Endpoint 服务让 Snorkel Flow 平台接入超过 150,000 个开源模型,帮助企业适配基础模型。
Hugging Face 发布 StackLLaMA 模型与配套教程,展示用 SFT、奖励模型和 RLHF 三步在 LLaMA 7B 上训练 Stack Exchange 问答能力的完整流程,模型已上线 Hub,训练管线收录于 TRL 库。
推荐理由:教程完整给出 RLHF 三阶段的可复现代码与显存估算,读者可据此在单卡上跑通流程。
Hugging Face 发布伦理与社会通讯 #3,阐述在开放与风险控制之间寻求平衡的"伦理式开放"策略。
Hugging Face 测评显示,BLOOMZ 176B 在 8 卡 Habana Gaudi2 上推理延迟 3.103 秒,比 A100 80GB 快 1.42x;BLOOMZ-7B 更是快 2.89x。
Hugging Face 发布教程,演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调,在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face 官方博客详细讲解如何用 diffusers 训练 ControlNet,以基于面部关键点的 Uncanny Faces 模型为例,覆盖规划条件、构建数据集、训练三步流程。