Hugging Face 与 KerasHub 达成模型格式互通,KerasHub 可直接加载 300K+ Transformers 模型
Hugging Face 与 KerasHub 宣布 Transformers 与 KerasHub 共享模型保存格式,KerasHub 用户现在可以用一行代码直接加载 Hugging Face Hub 上 300K+ 的 Transformers 模型,首批支持 Gemma 1 和 2、Llama 3、PaliGemma。
Hugging Face 与 KerasHub 宣布 Transformers 与 KerasHub 共享模型保存格式,KerasHub 用户现在可以用一行代码直接加载 Hugging Face Hub 上 300K+ 的 Transformers 模型,首批支持 Gemma 1 和 2、Llama 3、PaliGemma。
Banque des Territoires(CDC Group)、Polyconseil 与 Hugging Face 合作,为法国 EduRénov 学校生态改造项目开发基于 RAG 的主权数据方案,首期已于近日完成。
Hugging Face 宣布 Inference Endpoints 和 Spaces 自当日起支持 Google TPU v5e,用户可在 us-west1 区域选择三档配置。
Hugging Face 为 Dataset Hub 上的 Dataset Search 推出四项新功能:按数据模态(Text/Image/Audio/Tabular/Time-Series/3D/Video/Geospatial)。
Hugging Face 用基于 Transformers Agents 库构建的 ReactCodeAgent 参加 GAIA 基准,验证集取得 44.2%,在公开榜总榜排名第一,比第二名高 4 个百分点;测试集取得 33.3%,排名第二,超过 Microsoft Autogen 的提交,并在最难的 Level 3 问题上取得最佳平均分。
Google 发布 Gemma 2 系列开放 LLM,Hugging Face 与 Google 合作完成生态集成,Hub 上提供 4 个开放权重模型(9B 与 27B 各含 base 和指令微调版本),上下文长度 8192 tokens,27B 版本训练数据达 13 trillion tokens、9B 版本 8 trillion tokens。
推荐理由:详细拆解了滑动窗口注意力、软上限、知识蒸馏和模型合并等技术细节,便于读者理解其性能提升来源。
XLSCOUT 推出面向专利与 IP 的专有 Embedding 模型 ParaEmbed 2.0,准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face Ethics and Society Newsletter #6 探讨了 AI 开发中数据质量的重要性,以 Reddit 向 Google 提供数据导致搜索引擎出现"往披萨上加胶水"的荒谬推荐为例,说明低质量数据的危害。
Hugging Face 与 Argilla 联合开源社区推进的 Data Is Better Together 计划,已发布 DIBT/10k_prompts_ranked 数据集(10K prompts,385 人参与),并基于其中 500 条 prompt 启动多语言评测项目 MPEP,荷兰语、俄语、西班牙语翻译已完成。
Prezi 加入 Hugging Face Expert Support Program,将开源 re-ranker 模型引入其 Prezi AI 系统的资产搜索管线,以更低成本、更快速度和更好效果筛选图片与文本。
Hugging Face Blog 宣布发布 BigCodeBench,一个包含 1,140 个函数级任务、覆盖 139 个库的代码生成评测基准,每个任务平均含 5.6 个测试用例、平均分支覆盖率达 99%,旨在替代任务过于简单且易受数据污染影响的 HumanEval。
Hugging Face Accelerate 团队发现用 Mistral-7B base 在 bfloat16 下训练时 DeepSpeed 与 FSDP 损失曲线不一致。
Hugging Face 在 TRL 中引入 RLOO(REINFORCE Leave One-Out)Trainer,作为 PPO 之外更易实现的在线 RLHF 训练算法。
Hugging Face 宣布将重新设计 Transformers 文档,以解决其因多年增量式堆叠新内容而变得割裂、难导航且过时的问题。新版文档将转向以代码和解决方案为导向,面向开发者而非仅面向机器学习工程师,并用灵活的结构取代僵化的 Diátaxis 分类,让内容自然生长与整合。
Hugging Face Embedding Container for Amazon SageMaker 正式可用(GA),AWS 客户可在 SageMaker 上部署开源 Embedding 模型构建 RAG 等生成式 AI 应用。
Hugging Face 上线 Artificial Analysis Text to Image Leaderboard 与 Arena,基于 45,000 次人类图像偏好投票计算 ELO 分数,覆盖 Midjourney、DALL·E、Stable Diffusion、Playground 等主流开源与闭源模型。
Hugging Face 联合 Cubzh 和 Gigax 推出 NPC-Playground,一个可在浏览器中直接运行的 3D 演示,让玩家与 LLM 驱动的 NPC 互动,并通过几行 Lua 脚本教 NPC 新技能。
Hugging Face 将 assisted generation(基于 Speculative Sampling)适配并优化到 Intel Gaudi 处理器,现已集成进 Optimum Habana。
Hugging Face 官方披露其 Spaces 平台遭未授权访问,部分 Spaces secrets 可能被读取,已撤销其中一批 HF token 并向相关用户发送邮件通知。
Hugging Face 推出 TGI Benchmarking 工具,用于剖析 Text Generation Inference(TGI)部署的吞吐与延迟权衡,帮助用户按需调优。
Hugging Face 官方博客给出使用 Sentence Transformers 微调或从零训练 Embedding 模型的完整教程,覆盖数据集、损失函数、训练参数、评估器与 Trainer 各组件。
Hugging Face 宣布 Inference Endpoints 新增 Inferentia2 实例,用户可在 Hub 上几次点击即可部署模型,同时将 SageMaker 上的 Inferentia2 部署扩展到超过 100,000 个公开模型,新增 14 种模型架构和 6 类任务。
Hugging Face Spaces 推出 Dev Mode(目前处于 beta,面向 PRO 订阅用户),支持一键连接 VS Code 或 SSH 直接编辑 Space 中的代码,无需再用 git 推送本地改动。修改后点击 Refresh 即可测试,满意后再 commit 和 merge 持久化更改。社区已创建超过 500,000 个 Spaces。
Hugging Face 推出 Dell Enterprise Hub,让用户在 Dell 平台上轻松本地训练和部署 Llama 3、Mixtral、Gemma 等开源模型,将数周的工程工作缩短至几分钟。
Hugging Face 宣布与 AMD 合作,将 AMD Instinct MI300 集成进其平台,transformers 和 text-generation-inference 已在 MI250 与 MI300 上定期测试。
Hugging Face 在 Microsoft Build 上宣布与 Microsoft 深化战略合作,覆盖云、开源科学、开源库与开发者体验四条线。
Hugging Face 在 Transformers 中推出 KV Cache Quantization 功能,通过降低 KV cache 数值精度显著减少长上下文生成的内存占用,支持更长生成而不易耗尽显存。
Hugging Face 与 LangChain 联合推出并共同维护 Python 包 langchain_huggingface,通过 `pip install langchain-huggingface` 安装,旨在缩短 Hugging Face 生态新功能进入 LangChain 的时间。
Hugging Face 博客介绍 Google 发布的 PaliGemma 视觉语言模型家族,其架构由 SigLIP-So400m 图像编码器与 Gemma-2B 文本解码器经线性适配器组合而成,可接收图像与文本并输出文本。
推荐理由:详细拆解了三类检查点的用途差异与分辨率取舍,可帮助读者按任务选型并直接上手微调。
Hugging Face 推出 Open Arabic LLM Leaderboard(OALL),专门用于评估和比较阿拉伯语大语言模型,服务全球超过 3.8 亿阿拉伯语使用者。
Hugging Face 发布 Transformers Agents 2.0,在原有智能体之外新增两种能基于过往观察迭代的智能体(ReactCodeAgent 与 ReactJsonAgent),并加入社区分享功能。
推荐理由:原文给出组件设计与基准结果,读者可据此评估开源智能体框架的实际竞争力。
Hugging Face Enterprise Hub 现已支持通过 AWS 账号在 AWS Marketplace 完成订阅,账单由 AWS 账户直接管理,定价与 Hugging Face 公开定价一致。
Hugging Face 与 Intel 演示了如何基于 OPEA 平台,用 Intel Gaudi 2 加速器和 Xeon CPU 构建高性价比的企业级 RAG 应用。
Hugging Face 推出首个专门评估希伯来语大语言模型的开放排行榜,包含 Hebrew Question Answering、Sentiment Accuracy、Winograd Schema Challenge、Translation 四项基准,均采用 few-shot prompt 格式。
Artificial Analysis 的 LLM Performance Leaderboard 上线 Hugging Face,覆盖超过 100 个 serverless LLM API 端点,把质量、价格、速度(延迟与吞吐)三项指标汇总到一处供工程师选型。
Hugging Face 官方博客介绍如何用自定义 inference handler 在 Inference Endpoints 上部署 Whisper ASR、Pyannote 说话人分离与投机解码的组合管线,代码拆分为 handler.py、diarization_utils.py 和 config.py 三个文件。
Hugging Face Leaderboards and Evals 团队与 Dottxt 合作研究发现,MMLU 上仅改变 prompt 格式就能让模型分数波动约 10 个点,Qwen1.5-7B 在不同格式下准确率从 51.2% 跌至 22.9%,few-shot 顺序变化也可带来最多 3 分差异,且模型排名会随之改变。
Hugging Face 推出 Open CoT Leaderboard,通过对比模型在有无思维链(CoT)提示下的准确率差值(accuracy gain Δ),衡量 LLM 生成有效推理轨迹的能力,而非绝对准确率。该榜单使用 LogiQA、LSAT 等逻辑推理任务,已实现 Classic 和 Reflect 两种提示策略,旨在更稳健地评估模型推理能力并规避训练数据污染问题。
Hugging Face 发布 Jack of All Trades(JAT)项目,包含 JAT 模型、JAT 数据集和一批专家 RL 智能体,JAT 是基于 Transformer 的多用途智能体,可在 Atari、BabyAI、Meta-World、MuJoCo 等 157 个训练任务上用单一网络完成游戏、机器人控制和导航等决策任务。
Hugging Face 与 Open Life Science AI 推出 Open Medical-LLM Leaderboard,用 MedQA、MedMCQA、PubMedQA 及 MMLU 医学与生物学子集等数据集,以准确率为主要指标对比各模型的医疗问答能力。