Fireworks.ai 成为 Hugging Face Hub 推理提供商
Fireworks.ai 正式成为 Hugging Face Hub 的 Inference Provider,可在模型页面及 huggingface_hub 等库中直接调用其 serverless 推理。
Fireworks.ai 正式成为 Hugging Face Hub 的 Inference Provider,可在模型页面及 huggingface_hub 等库中直接调用其 serverless 推理。
Hugging Face 用 Math-Verify 替换 Open LLM Leaderboard 上的旧数学评测器,重新评估了提交过的全部 3,751 个模型。
推荐理由:原文给出旧评测器的三类解析缺陷与修复后分数变化,读者可据此理解评测口径对排行榜的实际影响。
Hugging Face 博客给出一套测算大规模分类与嵌入推理成本和延迟的方法,覆盖硬件选择、部署、负载测试与推理服务四个环节,并开源了代码 https://github.com/datavistics/encoder-analysis。
Hugging Face 发布面向视频生成模型微调的数据集构建工具链,包含下载、预处理过滤与打标三阶段流水线,用 yt-dlp 下载、LAION-5B-WatermarkDetection 检测水印、improved-aesthetic-predictor 打美学分、OpenCV 计算运动分,并用 Florence-2 或 Qwen2.5 生成字幕。
Hugging Face 的 Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 512 张 H100 本地跑 DeepSeek R1 生成 800k 条推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 判分过滤后保留 220k 道题的正确轨迹。
推荐理由:原文公开了数据生成与过滤的完整流水线和训练对照结果,读者可据此复现或迁移到其他领域。
Hugging Face 在 24 小时冲刺中开源复现 OpenAI 的 Deep Research,基于 smolagents 构建的开源智能体在 GAIA 验证集上取得 55.15% 的成绩,超过此前开源框架 Magentic-One 约 46% 的水平。
推荐理由:文中给出了代码动作相对 JSON 的具体优势和可复现的性能差距,读者可据此判断智能体框架选型的影响。
Hugging Face 将 Physical Intelligence 开发的 π0 和 π0-FAST 两个 Vision-Language-Action 模型移植到 LeRobot 仓库,提供模型集合与 PyTorch 版本。
推荐理由:原文同时给出模型架构细节与可直接运行的命令,读者可据此在 LeRobot 中复现和微调。
Hugging Face 发布 Open-R1 项目首周更新,称已在 MATH-500 Benchmark 上基本复现 DeepSeek-R1 蒸馏模型的报告分数,并上线了公开评测 leaderboard。
推荐理由:汇总了复现进度、训练管线细节和社区数据集,读者可据此评估开源复现 DeepSeek-R1 的可行性与路径。
Hugging Face 博客用 GRPO 和 Countdown Game 在 4x NVIDIA H100 上复现 DeepSeek R1 的 aha moment,训练 Qwen2.5-3B-Instruct 学会自我验证与搜索。
推荐理由:教程给出可复现的 GRPO 训练配置与超参调整过程,读者可据此在自有硬件上复现类似实验。
Hugging Face 推出 AI 艺术工具通讯创刊号,回顾 2024 年 AI & Arts 关键里程碑并展望 2025。
Mistral AI 发布 Mistral Small 3,一个延迟优化的 24B 参数模型,以 Apache 2.0 许可开源,提供预训练和指令微调两个 checkpoint。
推荐理由:原文给出了参数量、延迟与本地部署门槛,读者可据此判断它是否适合替代闭源小模型。
Hugging Face 与 AWS 合作发布持续更新的文档,介绍如何在 AWS 上部署和微调 DeepSeek R1 系列模型。
Hugging Face 在 Hub 模型页上线 fal、Replicate、Sambanova、Together AI 四家 serverless 推理提供商的集成,并同步接入 JS 和 Python 客户端 SDK。
推荐理由:原文给出了统一接入方式、计费规则和可直接复用的调用示例,读者可据此判断如何在自己项目中切换推理提供商。
Hugging Face 发布 Open-R1 项目,旨在系统性重建 DeepSeek-R1 的数据与训练管线、验证其技术报告中的主张,并推动开源推理模型的发展。
推荐理由:原文拆解了 DeepSeek-R1 训练配方中尚未公开的部分,并给出 Open-R1 的三步复现路线,便于读者理解开源社区如何补齐这些环节。
Hugging Face 发布 SmolVLM 家族两个新模型 SmolVLM-256M 和 SmolVLM-500M,含 base 与指令微调共四个 checkpoint,可直接通过 transformers、MLX 和 ONNX 加载。
推荐理由:原文对比了视觉编码器与分词优化的取舍,读者可借鉴其在极小模型上做效率权衡的思路。
Hugging Face 与 FriendliAI 达成合作,将 FriendliAI Endpoints 集成进 Hugging Face Hub 的“Deploy this model”按钮,提供一键部署。
Hugging Face 在 transformers 中推出 TimmWrapper,让任意 timm 视觉模型可直接接入 transformers 生态,获得 pipeline 推理、Auto Classes 加载、量化、Trainer 微调与 LoRA 支持。
Hugging Face 官方宣布为 Text Generation Inference (TGI) 引入多后端架构,通过统一的前端层集成 vLLM、llama.cpp、TensorRT-LLM 等推理方案,让用户按模型、硬件和性能需求切换后端。
Hugging Face 发布两款静态嵌入模型 sentence-transformers/static-retrieval-mrl-en-v1(英文检索)和 static-similarity-mrl-multilingual-v1(多语言相似度)。
Hugging Face 官方博客发文梳理 AI 智能体的定义、能力谱系与伦理权衡,建议不要开发完全自主的 AI 智能体,因为用户让渡的控制越多风险越大,能自行编写并执行代码的智能体将获得凌驾于人类控制之上的能力。
Hugging Face 与 LlamaIndex 合作发布 vdr-2b-multi-v1 多语言视觉文档检索嵌入模型,可将文档页面截图编码为单向量表示,无需 OCR 或分块即可检索多语言文档,同时开源英文版 vdr-2b-v1 和含 500k 样本的 vdr-multilingual-train 训练数据集。
Hugging Face 发布 smolagents,一个让语言模型获得智能体能力的简洁库,核心特点是让智能体以代码形式编写动作而非 JSON 片段。库的逻辑约数千行代码,支持 E2B 沙箱执行、通过 Hub 分享加载工具,并经 LiteLLM 集成支持 OpenAI、Anthropic 等 100+ 云端模型,是 transformers.agents 的继任者。
推荐理由:原文对比了代码动作与 JSON 工具调用的取舍依据,读者可据此判断何时该用智能体。
Hugging Face 与 Atla 联合推出 Judge Arena,让任何人并排对比模型作为评判者的表现:系统随机生成或自定义样本,两个 LLM 评判者分别打分并给出理由,用户投票选出更符合自己判断的一方,投票后才揭示模型名以避免偏差。
Hugging Face 官方博客介绍其与 PyCharm 的集成,开发者可在代码中右键选择 Insert HF Model,按 image-text-to-text 等类别筛选并查看 Model Card 示例代码,直接粘贴运行,例如选用 microsoft/Phi-3.5-vision-instruct 实现图文对话。
Hugging Face 与 Intel Labs 联合推出 Universal Assisted Generation(UAG),让 assisted generation(投机解码)不再要求目标模型与助手模型来自同一模型族、共享同一 tokenizer,可为任意 decoder 或 MoE 模型带来 1.5x-2.0x 推理加速且几乎零开销。
Cohere For AI 发布 Aya Expanse 8B 和 32B 多语言模型并以开放权重形式释出。成对比较中 Aya Expanse 32B 胜过 Gemma 2 27B、Mistral 8x22B 和 Llama 3.1 70B,8B 版本对 Gemma 2 9B、Llama 3.1 8B、Ministral 8B 的胜率在 60.4% 到 70.6% 之间。
Hugging Face 推出 Hugging Face Generative AI Services(HUGS),一套基于 Text Generation Inference(TGI)的零配置推理微服务,可在自有基础设施上部署开源模型,提供 OpenAI 兼容 API,支持 NVIDIA、AMD GPU,AWS Inferentia 和 Google TPU 即将支持。
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中推出 SynthID Text,可通过 logits processor 为 AI 生成文本添加水印并用分类器检测。
推荐理由:原文给出了配置参数、检测器训练流程和局限,读者可据此评估如何在自己的模型上落地水印方案。
Hugging Face 宣布与 Protect AI 合作,将其安全扫描工具 Guardian 集成到 Hub 的扫描套件中,所有公开模型仓库在推送文件后会被 Guardian 自动扫描。
Hugging Face 官方发布 Transformers.js v3,加入 WebGPU 支持,性能最高可达 WASM 的 100 倍,可通过设置 device: 'webgpu' 启用。
推荐理由:原文列出了 WebGPU 加速与 dtype 量化参数的具体用法,读者可据此判断浏览器端模型部署的性能与体积取舍。
Hugging Face 邀请网络安全公司 Trail of Bits 对 Gradio 代码库进行独立安全审计,发现的问题已在 Gradio 5.0 发布前全部修复并经对方验证。
Hugging Face 与 Intel labs 合作开发的动态推测解码已集成进 Transformers 4.45.0,成为 assisted generation 的默认模式,最高可带来 2.7x 加速。
中国 AI 企业正加速出海,2024 年 6 月的费凡研究显示全球 1,500 家活跃 AI 公司中 751 家来自中国,其中 103 家已布局海外。华为、腾讯、阿里等巨头聚焦云计算与 AI 基础设施,重点布局东南亚和中东;ByteDance 则主攻西方 To C 市场,CapCut 月活超 300 万、累计收入达 $125 million。
Hugging Face 推出 BenCzechMark,这是首个全面评估大语言模型(LLM)捷克语能力的评测套件,包含 9 大类共 50 项任务,其中 90% 为原生非翻译内容。
Meta 与 Hugging Face 合作发布 Llama 3.2 系列,共 10 个开放权重模型上线 Hub,包括 5 个多模态模型和 5 个纯文本模型。
推荐理由:原文给出各尺寸模型的显存需求与本地运行方式,读者可据此判断能否在自己的设备上跑起来。
Hugging Face Daily Papers 页面上线以来已收录超过 3,700 篇论文,订阅用户超过 12k。作者可一键认领论文并关联自己的模型或数据集,用户可在评论区 @librarian-bot 获取相关论文推荐,或通过 @username 与作者直接对话。页面还支持多语言评论与内置翻译、upvote 推荐、每日订阅推送,以及与 arXiv 的双向跳转集成(需安装浏览器扩展)。
Hugging Face 发布并详解 FineVideo 数据集的构建过程,该数据集包含 43k 段视频、共 3.4k 小时,配有丰富描述、场景切分和 QA 对。
Mistral AI 宣布发布 Mistral Small v24.09(22B 参数,MRL 许可),同时对全系模型降价,Mistral Small 和 Codestral 输入价格降至 $0.2 / M input tokens(降幅 80%),Mistral Large 2 降至 $2 / M input tokens(降幅 33%)。
推荐理由:一次更新同时给出降价幅度、新模型参数与授权方式,便于读者对照自身用量评估迁移成本。
Mistral AI 发布 Pixtral 12B,一款原生多模态模型,采用图文交错数据训练,采用 Apache 2.0 许可,可在 Le Chat 和 La Plateforme 上使用。
推荐理由:原文给出了架构细节、评测协议和本地部署方式,读者可据此评估它能否替代现有开源多模态模型。
HuggingChat 发布 Community Tools,可把 Hugging Face 上的任意公开 Space 变成模型可直接调用的工具,同时扩展了图像理解、视频生成和文本转语音等模态。文中给出把 Space 转成工具的字段填写方法、用 Gradio 自建骰子工具的示例、在助手中最多添加 3 个工具的用法,以及一个可复制的 RAG 工具;该功能目前仍处实验阶段。