Hugging Face 发布 Würstchen:42x 空间压缩的快速文生图扩散模型
Hugging Face 发布 Würstchen 扩散模型,其文本条件组件在高度压缩的图像潜在空间中工作,实现 42x 空间压缩,通过 Stage A(VQGAN)、Stage B(Diffusion Autoencoder)与 Stage C(Prior)三阶段设计,训练与推理成本大幅降低。
Hugging Face 发布 Würstchen 扩散模型,其文本条件组件在高度压缩的图像潜在空间中工作,实现 42x 空间压缩,通过 Stage A(VQGAN)、Stage B(Diffusion Autoencoder)与 Stage C(Prior)三阶段设计,训练与推理成本大幅降低。
Hugging Face 官方博客系统对比了 Transformers 原生支持的 bitsandbytes 与 auto-gptq 两种量化方案的优劣,并给出推理与微调的基准测试。
Hugging Face 将开源企业级代码助手 SafeCoder 与 GitHub Copilot、Amazon CodeWhisperer 等闭源服务对比,强调其在透明度、可定制性、IT 灵活性和隐私安全上的优势。
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作,在 diffusers 中支持 SDXL 的 T2I-Adapter,并开源 lineart、sketch、canny、depth、openpose 等条件的 checkpoints。
Hugging Face 官方博客宣布 TII 的 Falcon 180B 加入 HuggingFace 生态,这是当时最大的公开可用语言模型,拥有 180B 参数、在 RefinedWeb 数据集上训练 3.5 trillion tokens,是开源模型中最长的单轮预训练。
推荐理由:文章给出了硬件需求和量化实测,读者可据此评估自己能否跑起这个 180B 模型。
Fetch 借助 Amazon SageMaker 与 Hugging Face 优化机器学习流水线,将最慢扫描的延迟降低 50%,文档理解模型准确率提升 200%。
Hugging Face 官方博客演示如何在 🧨 Diffusers 中优化 AudioLDM 2 的推理速度,通过 flash attention(SDPA)。
Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族,包含 7B、13B、34B 三种参数规模,以及 Python 专精版和指令微调版,采用与 Llama 2 相同的宽松社区许可并可商用。
推荐理由:原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩,便于评估其在代码任务上的定位。
Hugging Face 将于 10 月 1 日起停止接受密码作为 Git 命令行操作的认证方式,用户需改用 personal access token 或 SSH key。token 与 SSH key 具备唯一、可撤销、随机等特性,安全性优于传统密码。依赖密码认证的用户会收到邮件提醒,需在 10 月 1 日前完成切换。
Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers,用户可用 GPTQ 算法把模型量化到 8、4、3 甚至 2-bit 精度运行,4-bit 量化精度损失可忽略,小 batch 下推理速度接近 fp16 基线,同时支持 Nvidia 与 RoCm AMD GPU。
推荐理由:原文给出了量化位宽、显存与延迟的实测对比,读者可据此判断能否在自己的 GPU 上跑起大模型。
Hugging Face 发布开放获取的视觉语言模型 IDEFICS,作为 DeepMind 未公开的 Flamingo 的开放复现,可接受任意图像与文本序列输入并生成文本输出。
推荐理由:原文交代了复现所用的公开数据与模型组件,读者可据此理解开放复现闭源模型的具体路径。
Hugging Face 推出 SafeCoder,一套面向企业的端到端自托管代码助手方案,核心是基于 StarCoder 系列 Code LLM(15B 参数、8,192 tokens 上下文)在客户自有代码库上微调,训练与推理全程代码不出 VPC。
Hugging Face Hub 上线 AWS Marketplace,用户可直接用 AWS 账户订阅并支付 Hugging Face 服务费用,Inference Endpoints、Spaces Hardware Upgrades、AutoTrain 等托管服务的用量费用将自动计入 AWS 账单,而非由 Hugging Face 向组织信用卡扣款。
Hugging Face 通过教程演示如何用 🤗 Transformers、Optimum 和 Accelerate 三个库对 Suno AI 的 TTS 模型 Bark 做推理优化,基线(suno/bark-small)在 5 次迭代下平均延迟 9.38 秒、显存占用 1.91 GB。
Hugging Face 博客演示了如何用开源模型服务框架 BentoML 部署开源文生图模型 DeepFloyd IF,覆盖模型下载到 Model Store、创建 Service、构建 Bento、容器化部署到 Kubernetes 或 Yatai 的完整流程。
Hugging Face 发布 swift-transformers Swift 包、swift-chat 演示应用,以及更新版 exporters 和 transformers-to-coreml 转换工具,帮助 Swift 开发者在 Apple 设备上通过 Core ML 运行 Llama 2 等大语言模型,并提供 Llama 2 7B、Falcon 7B 等已转换模型。
Hugging Face 官方博客介绍如何用 TRL 库中的 DPO 方法微调 Llama 2 7B 模型,DPO 绕过奖励模型和 RL 优化步骤,直接在偏好数据上用交叉熵损失优化语言模型。
Hugging Face 通过 Inference Endpoints 的 custom handler 机制,让 MusicGen 这类没有现成 pipeline 的模型也能几点击部署上线。
Hugging Face 推出 Huggy Lingo,用机器学习检测 Hub 上缺失语言元数据的数据集,并由 librarian-bots 提交 pull request 补充元数据。
Zama 展示了如何用全同态加密(FHE)让 Hugging Face transformers 库中的 GPT2 在加密数据上运行推理,同时保护用户隐私和模型 IP。
Hugging Face 与 Apple 合作将 Stable Diffusion XL 移植到 Core ML,发布了 apple/coreml-stable-diffusion-xl-base 完整流水线和 apple/coreml-stable-diffusion-mixed-bit-palettization 版本。
推荐理由:原文给出混合位调色板压缩的逐层比特分配方法与实测体积数据,读者可迁移到自己的 Core ML 模型压缩上。
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件,就 EU AI Act 提出五项建议,包括明确定义 AI 组件、澄清开源协作开发不受法案要求约束、支持 AI Office 与开源生态协作、确保 R&D 例外切实可行,以及为"基础模型"设置比例适当的要求。
Hugging Face 推出 Agents.js 库,可通过 npm 安装(`@huggingface/agents`),在浏览器或 Node 端为 LLM 提供工具调用能力,内置多模态工具并支持自定义工具与模型。
Hugging Face 首届 Open Source AI Game Jam 于 7 月 7 日至 7 月 11 日举办,吸引超过 1300 人报名,共收到 88 个游戏作品,ohmlet 的 Snip It 获评冠军。
Hugging Face 的 Diffusers 库迎来一周年,回顾了社区共同贡献的一年重要功能更新。
Meta 发布 Llama 2 系列开放大语言模型,Hugging Face 完成生态集成,Hub 上提供 12 个开放模型(3 个基础模型与 3 个微调模型及对应 transformers 版本),采用宽松社区许可并支持商用。
推荐理由:文章给出从推理部署到单卡微调的完整路径,可直接迁移用于自己的 Llama 2 实践。
Hugging Face 盘点了其开源文本生成与 LLM 生态,涵盖 Llama 2、MPT-30B、XGen、Falcon、FLAN-T5、BLOOM 和 StarCoder 等模型。
Hugging Face 展示了如何在 Intel Sapphire Rapids CPU 集群上用 textual inversion 微调 Stable Diffusion 模型,只需 5 张示例图片。
Hugging Face 官方博客介绍了如何用 Transformers.js 在浏览器中构建实时 ML 游戏 Doodle Dash,模型基于 Google Quick, Draw!
Hugging Face Inference Endpoints 是一款托管 SaaS 服务,可通过几次点击将开源 LLM(如 Falcon 40B instruct)部署为生产级 API,支持自动扩缩容、scale-to-zero 降本与 SOC2 Type 2 安全认证。
Hugging Face 发布教程,用 NodeJS + Express.js 调用 WizardCoder-15B(经 Inference Endpoints API)流式生成 HTML,实现文本生成网页应用。
Hugging Face 与 Writer 联合创始人兼 CTO Waseem Alshikh 对谈,回顾 Writer 从 Hugging Face 用户、客户到开源模型贡献者的历程。
Optimum Habana v1.7 在 Habana Gaudi2 上微调 BridgeTower 时,相比 A100 实现 x2.5 加速,相比 H100 实现 x1.4 加速。
Hugging Face 发布伦理与社会通讯第 4 期,梳理文生图(TTI)模型中偏差的来源与应对方法。
Hugging Face 博客解释了 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何显著低于 LLaMA 论文报告值。
推荐理由:通过对比三套 MMLU 实现的分数差异,读者能理解评测分数为何不可直接跨库比较。
Hugging Face 与 Panel 达成合作,在 Hugging Face Spaces 中集成了 Panel 模板,帮助用户快速上手构建并部署 Panel 应用。
Hugging Face 于 6 月 12 日向美国商务部 NTIA 提交了关于 AI 问责制政策的信息请求回应,强调文档与透明度规范在推动 AI 问责中的作用。
Hugging Face 官方博客给出用 MMS Adapter 微调低资源 ASR 的完整教程,只需 10-20 分钟微调即可取得很低的词错误率。
Hugging Face 通过对比实验表明,Autoformer 在 Traffic、Exchange-Rate、Electricity 三个数据集上的 MASE 分数(0.910、1.087、0.751)均优于 AAAI 2023 论文所称更优的线性模型 DLinear(0.965、1.690、0.831)。
Hugging Face 支持将 Elixir 的 Livebook notebooks 作为应用部署到 Spaces,15 分钟内即可用 Whisper 构建一个仅支持语音消息的聊天应用。