Hugging Face 发布 Nemotron-Personas-India:面向印度的开源合成人格数据集
Hugging Face 发布 Nemotron-Personas-India,首个与印度真实人口、地理和文化分布对齐的开源合成人格数据集,采用 CC BY 4.0 许可,可商用与非商用。
Hugging Face 发布 Nemotron-Personas-India,首个与印度真实人口、地理和文化分布对齐的开源合成人格数据集,采用 CC BY 4.0 许可,可商用与非商用。
NVIDIA 发布并以 CC BY 4.0 许可开源 Nemotron-Personas-Japan 数据集,面向日本主权 AI 开发者提供隐私保护的合成人格训练数据。
Hugging Face 推出 SyGra,一个面向 LLM 和 SLM 的低代码/无代码数据构建框架,支持 Q&A 生成、DPO 偏好对、推理增强、多语言转换、质量过滤等数据创建与对齐任务。SyGra 提供 Python 库,可集成 vLLM、Hugging Face TGI、Triton、Ollama 等多种推理后端,让用户专注提示词工程而无需编写复杂脚本。
Hugging Face 发布 LeRobotDataset:v3.0,将多个 episode 合并进单个文件并用关系型元数据检索单集信息,解决 v2 每集一文件在百万级 episode 时的文件系统限制。
Together AI 与 Hugging Face 合作推出新能力,让 Hugging Face Hub 上任意兼容 LLM 都可通过 Together AI 基础设施进行微调。
Hugging Face 发布 Jupyter Agent 项目后续工作,通过生成高质量训练数据并微调 Qwen3-4B,使其在 DABStep 数据科学基准上成为 SOTA 小模型智能体。
推荐理由:完整拆解了从数据清洗到微调评测的全流程,可迁移的方法细节和踩坑经验较多。
Hugging Face 发布 mmBERT,一个基于 ModernBERT 构建的大规模多语言编码器模型,使用 3T+ tokens、覆盖 1800 多种语言训练,是首个在性能与速度上超越 XLM-R 的同类模型。
推荐理由:原文给出三阶段训练与低资源语言在衰减阶段快速学习的细节,可迁移其渐进式多语言训练思路。
SandboxAQ 发布并开源了结构增强 IC50 数据集 SAIR,现已上线 Hugging Face,提供超过 500 万组 AI 生成的高精度蛋白-配体 3D 结构,每组配对来自 ChEMBL 或 BindingDB 的实测 IC₅₀ 数据,以 CC BY 4.0 许可免费开放。
Berkeley AI Research 的新论文为 word2vec 的学习过程给出了定量且可预测的理论:在合理近似下,其学习问题可化简为无权最小二乘矩阵分解,梯度流动力学有闭式解,最终学到的表示等价于对目标矩阵 M* 做 PCA。
NVIDIA 发布 600 万条多语言推理数据集 Nemotron Post-Training Dataset v2,将此前的英文推理数据翻译为法语、西班牙语、德语、意大利语和日语五种目标语言,保留原始英文推理链以利用预训练阶段的英文知识。
Hugging Face 与 AI-MO 开源了 kimina-prover-rl 训练管线,用于 Lean 4 形式化定理证明,采用受 DeepSeek-R1 启发的先推理后生成范式,基于 GRPO 与 Verl 框架,训练配方以 recipe/kimina-prover-rl 形式随 Verl fork 发布。
推荐理由:原文给出了完整的训练配方与开源入口,读者可据此复现小参数模型上的强化学习定理证明流程。
Hugging Face 发布开源无代码工具 AI Sheets,用于用 AI 模型构建、转换和丰富数据集,可本地部署或部署到 Hub,通过 Inference Providers 或本地模型调用 Hub 上的数千个开放模型,包括 OpenAI 的 gpt-oss。
推荐理由:原文给出了免安装入口、导入与生成两种起步方式以及 few-shot 反馈机制,读者可据此判断它如何嵌入现有数据工作流。
Mistral AI 演示了用 LoRA 微调 Pixtral-12B 在 Aerial Image Dataset(AID)上做卫星影像场景分类的完整流程。
Hugging Face 发布开源免费的 Python 实验跟踪库 Trackio,提供本地 Gradio 仪表盘并可同步到 Hugging Face Spaces 分享。
Hugging Face 宣布 Parquet Content-Defined Chunking(CDC)现已在 PyArrow 和 Pandas 中可用,通过传入 use_content_defined_chunking=True 即可启用,配合 Xet 存储层只上传或下载发生变化的数据块,从而降低传输与存储成本。
Mistral AI 与 Carbone 4、法国生态转型署(ADEME)合作,发布首个 LLM 全生命周期环境影响分析(LCA),并经 Resilio 和 Hubblo 评审。
Hugging Face 发布 Arc Virtual Cell Challenge 入门指南,面向无生物学背景的 ML 工程师,讲解如何训练模型预测 CRISPR 沉默基因对细胞的影响。
Hugging Face Blog 发布 Ettin 系列,包含 17M 到 1B 六种规模的成对 encoder-only 与 decoder-only 模型,使用相同的 2T token 公开数据、架构和训练配方,仅在注意力模式和训练目标上不同。
推荐理由:用同一套数据和配方同时训练编码器与解码器,读者可据此看到架构本身的真实差异。
Hugging Face 博客基于 nanoVLM 项目排查训练 GPU 空闲问题,发现数据流水线浪费严重,朴素 padding 下约 60% 的 batch 是无用 token。
TII 发布 Falcon-Arabic,一个基于 Falcon 3-7B 改造的 7B 多语言模型,支持阿拉伯语、英语等,上下文长度 32,000 tokens。
Falcon-Edge 团队发布基于 BitNet 架构的 Falcon-Edge 系列 1.58bit 三值语言模型,提供 1B 和 3B 两种参数规模,各有 base 和 instruction-tuned 版本。
LeRobot 官方博客把机器人泛化定义为数据问题,介绍社区数据集在 Hugging Face Hub 上快速增长的现状,并指出当前数据集在任务标注、特征命名、episode 完整性和动作维度上的常见问题。
Hugging Face 与 ServiceNow 开源了实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行 inflight 权重更新,让推理服务器在不中断推理的情况下接收新权重,从而兼顾高推理吞吐与 on-policy 数据。
TNG 基于 olmOCR-7B-0225-preview 微调出忠实 OCR 引擎,解决了原模型忽略页眉页脚关键信息(如发票)的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8,000 份文档数据集,在 8xH100 节点上以 4 步梯度累积训练 2.5 epochs,微调后模型能完整提取页眉页脚内容并仍可解析表格,已开源至 HuggingFace。
Hugging Face Open R1 项目发布 OlympicCoder-7B 和 OlympicCoder-32B 两个微调代码模型,在 IOI 问题上超过 Claude 3.7 Sonnet 等闭源前沿模型,OlympicCoder-32B 在 50 次提交限制下还超过 o1-mini 和 DeepSeek-R1。
推荐理由:文中给出的五条训练经验可直接迁移到用推理轨迹微调代码模型的实践中。
Hugging Face LeRobot 团队与 Yaak 联合发布 Learning to Drive(L2D)开源自动驾驶数据集,R4 版本包含 90+ TB 多模态数据、5000+ 小时驾驶、来自德国 30 个城市的 6 路环视摄像头与完整车辆状态。
推荐理由:对比表和分阶段发布计划让读者能直接评估该数据集相对现有开源数据集的规模与可用性差异。
Hugging Face 与印度科学研究所(IISc)及 ARTPARK 达成合作,旨在提升印度开源多模态多语言数据集 Vaani 的可访问性与易用性。
Hugging Face 用 Math-Verify 替换 Open LLM Leaderboard 上的旧数学评测器,重新评估了提交过的全部 3,751 个模型。
推荐理由:原文给出旧评测器的三类解析缺陷与修复后分数变化,读者可据此理解评测口径对排行榜的实际影响。
Hugging Face 发布面向视频生成模型微调的数据集构建工具链,包含下载、预处理过滤与打标三阶段流水线,用 yt-dlp 下载、LAION-5B-WatermarkDetection 检测水印、improved-aesthetic-predictor 打美学分、OpenCV 计算运动分,并用 Florence-2 或 Qwen2.5 生成字幕。
Hugging Face 的 Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 512 张 H100 本地跑 DeepSeek R1 生成 800k 条推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 判分过滤后保留 220k 道题的正确轨迹。
推荐理由:原文公开了数据生成与过滤的完整流水线和训练对照结果,读者可据此复现或迁移到其他领域。
Hugging Face 与 Adyen 联合发布 DABStep(Data Agent Benchmark for Multi-step Reasoning),包含 450+ 来自 Adyen 真实工作负载的数据分析任务,用于评估 LLM 与 AI 智能体的多步推理能力。
Hugging Face 发布 Open-R1 项目首周更新,称已在 MATH-500 Benchmark 上基本复现 DeepSeek-R1 蒸馏模型的报告分数,并上线了公开评测 leaderboard。
推荐理由:汇总了复现进度、训练管线细节和社区数据集,读者可据此评估开源复现 DeepSeek-R1 的可行性与路径。
Hugging Face 博客用 GRPO 和 Countdown Game 在 4x NVIDIA H100 上复现 DeepSeek R1 的 aha moment,训练 Qwen2.5-3B-Instruct 学会自我验证与搜索。
推荐理由:教程给出可复现的 GRPO 训练配置与超参调整过程,读者可据此在自有硬件上复现类似实验。
Hugging Face 对 Open LLM Leaderboard 上 2,742 个模型的推理 CO₂ 排放进行了分析,发现社区微调或合并模型通常比其官方基座模型更省碳。
Hugging Face Hub 提供数据集托管与分享服务,支持 TB 级数据集、单文件上限 50 GB(Xet 团队正升级至 500 GB),并内置 Dataset Viewer 全文搜索、排序与浏览器内 SQL Console。
Argilla 2.4 新增无代码功能,用户可在 Argilla UI 中直接从 Hugging Face Hub 导入数据集、定义问题并收集人工反馈,无需编写代码。
Cohere For AI 发布 Aya Expanse 8B 和 32B 多语言模型并以开放权重形式释出。成对比较中 Aya Expanse 32B 胜过 Gemma 2 27B、Mistral 8x22B 和 Llama 3.1 70B,8B 版本对 Gemma 2 9B、Llama 3.1 8B、Ministral 8B 的胜率在 60.4% 到 70.6% 之间。
Hugging Face 与合作方发布长视频 QA 数据集 CinePile 2.0,并开源了配套的对抗式数据集精炼(adversarial dataset refinement)方法实现。
Hugging Face 官方博客说明 transformers Trainer 中梯度累积导致损失不匹配的问题及其修复方案。问题源于默认损失函数按批次平均而非按累积步内非 padding token 总数计算,官方将自动处理默认损失的梯度累积逻辑,并新增 loss_function 属性和 API 允许用户传入自定义损失函数。
Hugging Face 官方博客展示了如何用 Dask 把基于 FineWeb 数据集的 FineWeb-Edu 分类任务从本地 100 行扩展到云端多 GPU 上的 2.11 亿行。