Hugging Face 与 Microsoft 合作在 Azure Machine Learning 上线 Hugging Face Model Catalog
Hugging Face 与 Microsoft 合作,在 Azure Machine Learning Studio 内原生上线 Hugging Face Model Catalog,收录 Hugging Face Hub 上数千个热门 Transformers 模型,用户只需几次点击即可在托管端点上完成部署。
Hugging Face 与 Microsoft 合作,在 Azure Machine Learning Studio 内原生上线 Hugging Face Model Catalog,收录 Hugging Face Hub 上数千个热门 Transformers 模型,用户只需几次点击即可在托管端点上完成部署。
Hugging Face 宣布与 IBM 合作,为其新一代企业 AI studio watsonx.ai 提供支持。
Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库进行外部安全审计,结果显示未发现可导致任意代码执行的严重漏洞,仅修复了规范不精确和缺失校验导致的 polyglot 文件问题。
Hugging Face 探索了对 Stable Diffusion 进行指令微调,使其能按输入图像加指令(如"给图像加卡通滤镜")完成图像翻译与低层图像处理任务。
Hugging Face 与 Intel 推出 Q8-Chat,基于 SmoothQuant 8-bit 量化技术让 LLM 在 Intel CPU 上高效运行,模型体积缩小约 2 倍且精度基本无损。
Hugging Face 官方博客详细讲解 BigCode 训练数据的文档级近似去重方法,覆盖 MinHash 加 LSH 的完整流程:shingling 分词、指纹计算、LSH 分桶、候选对聚类与去重决策。
推荐理由:系统梳理了 MinHash 加 LSH 的去重流程与四种扩展方案,并给出参数取舍的实验依据,可直接迁移到自有数据集。
Hugging Face 被法国数据保护机构 CNIL 选中,进入其强化支持(Enhanced Support)计划,该计划从 40 多家候选企业中选出 3 家"经济发展潜力强"的公司,提供数据保护合规方面的指导。
Hugging Face 官方博客宣布 RWKV 架构已通过 Pull Request 集成进 transformers 库,可通过源码安装或 main 分支使用,支持 pipeline 文本生成与 alpaca 风格的 RWKV-4 Raven 聊天模型调用,并提供 convert_rwkv_checkpoint_to_hf.py 脚本转换原始权重。
推荐理由:原文对比了 RWKV 与 Transformer、RNN 的取舍并给出可直接运行的代码,便于读者判断其适用场景。
Hugging Face 在 🤗 Transformers 的 .generate() 中推出新解码方法 assisted generation,用小模型生成候选 token、再由目标模型一次前向验证,在普通硬件上最高可将延迟降低 10x。
推荐理由:原文拆解了延迟瓶颈并给出可复现的加速数字,读者可据此判断该方法是否适配自己的部署场景。
Hugging Face 官方博客讲解如何把 BigCode 的 16B 参数开源代码模型 StarCoder 微调成对话式编码助手 StarChat。
推荐理由:完整给出从数据准备、ChatML 格式化到 DeepSpeed 训练与评测的可复现流程,适合想动手微调代码模型的读者。
Hugging Face 官方博客系统梳理了文生视频模型的过去、现在与未来,对比其与文生图任务的差异,指出计算成本高、高质量数据集稀缺、视频描述模糊等核心挑战。
Hugging Face 与 ServiceNow 联合的 BigCode 项目发布代码大模型 StarCoder 和 StarCoderBase,基于 80+ 编程语言等许可数据训练,约 15B 参数、1 trillion tokens。
推荐理由:原文给出评测数据和提示词技巧,读者可了解开源代码模型的水平及提升分数的具体做法。
Hugging Face Unity API 让开发者在 Unity 项目中通过 Inference API 调用 Hugging Face 模型,安装时在 Package Manager 中添加 git URL 并在 API Wizard 填入 API key 即可。
Hugging Face 发布教程,演示如何用 🤗 Transformers 配合 TensorFlow 和 TPUStrategy 在 TPU 上从零训练 RoBERTa(base)掩码语言模型。
Databricks 向 Hugging Face 代码库提交首个官方 commit,在 Datasets 中新增 `from_spark` 函数,可直接把 Spark dataframe 转成 Hugging Face dataset。
Hugging Face 官方博客给出完整教程,用 🧨 diffusers 在免费版 Google Colab(13 GB CPU RAM、15 GB VRAM 的 T4)上运行 DeepFloyd 的 IF 文生图模型。
Hugging Face 推出面向中文使用者的官方博客 hf.co/blog/zh,由志愿者团队翻译 transformers、diffusion、强化学习等博客与课程资源。
Hugging Face Spaces 除了托管机器学习 demo,还可以直接托管可玩的 Unity 游戏。
Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum-neuron 一行代码即可编译模型,无需切分或修改。
Hugging Face 教程演示如何用 Transformers 库(版本 >= 4.27.2)对图数据做分类,使用的是库中目前唯一的图 Transformer 模型 Microsoft Graphormer。
Hugging Face 与开源联邦学习框架 Substra 合作推出一个演示空间,展示联邦学习如何在数据不出本地的前提下训练模型。联邦学习只在服务器间传输模型权重,数据保留在本地,可在医疗等敏感领域打破数据孤岛,同时满足 HIPAA 等隐私法规。演示中可调整数据分布,观察联邦学习模型在验证集上通常优于单源数据训练的模型。
Snorkel AI 与 Hugging Face 合作,通过 Hugging Face Inference Endpoint 服务让 Snorkel Flow 平台接入超过 150,000 个开源模型,帮助企业适配基础模型。
Hugging Face 发布 StackLLaMA 模型与配套教程,展示用 SFT、奖励模型和 RLHF 三步在 LLaMA 7B 上训练 Stack Exchange 问答能力的完整流程,模型已上线 Hub,训练管线收录于 TRL 库。
推荐理由:教程完整给出 RLHF 三阶段的可复现代码与显存估算,读者可据此在单卡上跑通流程。
Hugging Face 发布伦理与社会通讯 #3,阐述在开放与风险控制之间寻求平衡的"伦理式开放"策略。
Hugging Face 测评显示,BLOOMZ 176B 在 8 卡 Habana Gaudi2 上推理延迟 3.103 秒,比 A100 80GB 快 1.42x;BLOOMZ-7B 更是快 2.89x。
Hugging Face 发布教程,演示如何用 Flower 框架对 Hugging Face 预训练 Transformer 模型 distilBERT 进行联邦学习式微调,在 IMDB 影评数据集上完成正负面情感的序列分类。
Hugging Face 官方博客详细讲解如何用 diffusers 训练 ControlNet,以基于面部关键点的 Uncanny Faces 模型为例,覆盖规划条件、构建数据集、训练三步流程。
Hugging Face 宣布为 Hub 上托管的 Jupyter notebook 增加渲染支持,原本以 JSON 格式存储的 ipynb 文件现在会以人类可读的形式展示。
Informer(AAAI21 best paper)现已加入 🤗 Transformers,可用于多变量概率时间序列预测任务,即预测未来时间序列目标向量的分布。
Hugging Face 官方博客复盘了 2023 年 2 月土耳其地震后志愿者团队如何用机器学习构建救援应用 afetharita 的实践。
推荐理由:复盘了灾后救援中从数据标注到模型部署的完整 MLOps 流程,可迁移方法具体。
Hugging Face 在 Diffusers 中集成 ControlNet,发布 StableDiffusionControlNetPipeline,支持用深度图、分割图、涂鸦、关键点等空间条件控制 Stable Diffusion 生成,论文提出的 8 种条件模型全部支持。
推荐理由:原文给出完整可复现的代码与性能数字,读者可直接照搬这套省显存的 ControlNet 推理配置。
Hugging Face 在 Diffusers 库文档中发布伦理框架,以透明、一致、简洁、可访问、可复现、负责任六项原则指导社区贡献的技术决策。
Hugging Face 专家加速计划帮助 Witty Works 用 Sentence Transformers 和 SetFit 构建了上下文相关的非包容性词汇分类器,解决了基础方法在 85% 词汇上有效但对上下文依赖词失效的问题。
Hugging Face 官方 Mac 应用 Swift Diffusers 1.1 上架 Mac App Store,将社区贡献的 SoTA 文生图模型转换为 Core ML 运行,文生图速度最高可提升至两倍,并自动为当前机型选择最佳加速器。
Fetch 通过 AWS Marketplace 上的 Hugging Face Expert Acceleration Program,用自研 AI 模型替换第三方"黑盒"方案,开发时间缩短 30%、处理延迟降低 50%,并以影子管线(shadow pipeline)在不中断业务的情况下完成切换。
Hugging Face 与 AWS 扩大长期战略合作,Hugging Face 将 AWS 作为首选云提供商,借助 Amazon SageMaker、AWS Trainium、AWS Inferentia 让开发者训练、微调和部署模型。
Hugging Face 推出 Inference Endpoints 托管服务,可将 Hub 上几乎任何模型部署到 AWS、Azure 等云的多种实例类型(含 GPU),Hugging Face 自身已将部分 CPU 推理模型从 AWS ECS + Fargate 迁移过来。
Hugging Face 博客介绍 Salesforce Research 的 BLIP-2 如何在冻结的图像编码器与 LLM 之间加入轻量 Querying Transformer(Q-Former),以更少可训练参数实现多任务 SOTA。
Hugging Face 推出 🤗 PEFT 库,与 🤗 Transformers 和 🤗 Accelerate 无缝集成,目前支持 LoRA、Prefix Tuning、P-Tuning v2、Prompt Tuning、P-Tuning 等方法。
推荐理由:原文给出了在消费级硬件上微调大模型的具体配置与产出体积对比,可直接迁移复用。
Hugging Face 宣布 SpeechT5 现已加入开源库 Transformers,官方 checkpoint 已在 Hub 上提供,并配有 TTS、语音转换和 ASR 的 Spaces 演示。