跳到正文
  1. Hugging Face Blog76

    NVIDIA 发布 Nemotron 3.5 Transcribe 开源语音模型与 Granary v2 数据管线

    NVIDIA 发布开源权重语音模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到单一 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人归属,可处理最长一小时录音并标注最多 8 位说话人,现已在 Hugging Face 和 ModelScope 开放。

    推荐理由:原文给出榜单成绩与微调配方,读者可据此判断该模型在多语种转写与说话人分离上的可用性。

  1. Hugging Face Blog74

    NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练直接在数据库上预测

    NVIDIA 发布 Kumo Relational,一个预训练的关系型基础模型,可直接在企业数据库上做预测,无需任务专属训练、特征工程或表展平,单次前向传播即可给出流失、需求、欺诈等预测结果。

    推荐理由:原文给出了基准对比与部署入口,读者可据此评估它能否替代现有 XGBoost 生产管线。

  1. Hugging Face Blog74

    NVIDIA 开源表格基础模型 Kumo Tabular,在四个榜单排名第一

    NVIDIA 发布开源表格基础模型 Kumo Tabular,属于 NVIDIA Kumo Structured 模型系列,已上线 Hugging Face。给定带标签的表格,它在单次前向传播中直接预测新行标签,支持分类与回归,无需训练、调优或特征工程。

    推荐理由:原文交代了模型架构与人工数据预训练流程,读者可据此理解表格基础模型如何在免调优下兼顾精度与效率。

  1. Microsoft Research62

    微软研究院发布 Quine:面向生物学复杂性的 AI 研究系统

    微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由生物世界模型和连接模型、科学工具、文献与实验的交互式 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,从缩小搜索空间到选出候选化合物仅用一个周末,湿实验验证中排名最高的化合物产生了最大的预期细胞状态转变。

    推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环,读者可了解 AI 参与药物发现的具体流程与验证结果。

  1. Google DeepMind74

    Google DeepMind 发布 WeatherNext 3 全球天气预报 AI 模型

    Google DeepMind 与 Google Research 发布 WeatherNext 3,称其为迄今最先进、最准确的全球天气模型,直接学习实时卫星观测数据,每小时生成一次预报。

    推荐理由:原文给出分辨率、更新频率与降水精度提升的具体数字,可据此判断 AI 天气预报在本地化场景的进展。

  1. Microsoft Research74

    Microsoft Research 发布 Echoverse:面向计算机使用智能体的深度可演化训练环境

    Microsoft Research 发布 Echoverse,一套面向计算机使用智能体的深度可演化训练环境,包含十个深度领域世界和两个能力世界,并开源其中四个世界的代码、数据与数据库接地验证器。

    推荐理由:原文用对照实验说明深度与多样性比环境数量更能带来迁移,可为构建计算机使用智能体训练环境提供方法参考。

  1. Google Research67

    Google Research 发布表格数据零样本基础模型 TabFM

    Google Research 发布面向表格数据分类与回归的基础模型 TabFM,将表格预测建模为上下文学习问题,无需手动训练、超参调优和特征工程,单次前向传播即可在未见过的表格上生成预测。

    推荐理由:原文说明了混合注意力架构与合成数据训练如何替代传统特征工程和调参流程,便于评估其对现有工作流的替代空间。

  1. Hugging Face Blog61

    Hugging Face 发布 mmBERT 多语言编码器模型

    Hugging Face 发布 mmBERT,一个基于 ModernBERT 构建的大规模多语言编码器模型,使用 3T+ tokens、覆盖 1800 多种语言训练,是首个在性能与速度上超越 XLM-R 的同类模型。

    推荐理由:原文给出三阶段训练与低资源语言在衰减阶段快速学习的细节,可迁移其渐进式多语言训练思路。

  1. Hugging Face Blog60

    Hugging Face 开源 Kimina-Prover-RL 训练管线并发布 1.7B 与 0.6B 模型

    Hugging Face 与 AI-MO 开源了 kimina-prover-rl 训练管线,用于 Lean 4 形式化定理证明,采用受 DeepSeek-R1 启发的先推理后生成范式,基于 GRPO 与 Verl 框架,训练配方以 recipe/kimina-prover-rl 形式随 Verl fork 发布。

    推荐理由:原文给出了完整的训练配方与开源入口,读者可据此复现小参数模型上的强化学习定理证明流程。

  1. Hugging Face Blog61

    Hugging Face 发布 Ettin 系列配对编码器与解码器模型

    Hugging Face Blog 发布 Ettin 系列,包含 17M 到 1B 六种规模的成对 encoder-only 与 decoder-only 模型,使用相同的 2T token 公开数据、架构和训练配方,仅在注意力模式和训练目标上不同。

    推荐理由:用同一套数据和配方同时训练编码器与解码器,读者可据此看到架构本身的真实差异。

  1. Hugging Face Blog70

    Hugging Face 发布 SmolLM 小模型系列与 SmolLM-Corpus 数据集

    Hugging Face 发布 SmolLM 小语言模型系列,包含 135M、360M、1.7B 三种参数规模,并同步开源 SmolLM-Corpus 训练语料。

    推荐理由:原文公开了数据配比与消融实验细节,读者可迁移其小模型数据筛选方法。

  1. Hugging Face Blog78

    Hugging Face 介绍 Google 新开放模型 Gemma 2 的技术细节与生态集成

    Google 发布 Gemma 2 系列开放 LLM,Hugging Face 与 Google 合作完成生态集成,Hub 上提供 4 个开放权重模型(9B 与 27B 各含 base 和指令微调版本),上下文长度 8192 tokens,27B 版本训练数据达 13 trillion tokens、9B 版本 8 trillion tokens。

    推荐理由:详细拆解了滑动窗口注意力、软上限、知识蒸馏和模型合并等技术细节,便于读者理解其性能提升来源。

  1. Hugging Face Blog76

    Hugging Face 迎来 TII 的 Falcon 180B 开源模型

    Hugging Face 官方博客宣布 TII 的 Falcon 180B 加入 HuggingFace 生态,这是当时最大的公开可用语言模型,拥有 180B 参数、在 RefinedWeb 数据集上训练 3.5 trillion tokens,是开源模型中最长的单轮预训练。

    推荐理由:文章给出了硬件需求和量化实测,读者可据此评估自己能否跑起这个 180B 模型。

  1. Hugging Face Blog88

    Hugging Face 全面支持 Meta Llama 2 发布并提供推理与微调指南

    Meta 发布 Llama 2 系列开放大语言模型,Hugging Face 完成生态集成,Hub 上提供 12 个开放模型(3 个基础模型与 3 个微调模型及对应 transformers 版本),采用宽松社区许可并支持商用。

    推荐理由:文章给出从推理部署到单卡微调的完整路径,可直接迁移用于自己的 Llama 2 实践。

  1. Hugging Face Blog65

    Falcon 系列模型接入 Hugging Face 生态并提供完整推理与微调指南

    Hugging Face 官方博客介绍 Falcon 系列模型(Falcon-40B 与 Falcon-7B,由阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布)接入其生态的完整用法。

    推荐理由:文章系统梳理了 Falcon 在 Hugging Face 生态中的推理、量化与微调路径,可直接迁移为落地参考。

  1. OpenAI News76

    OpenAI 发布 InstructGPT 并设为 API 默认模型

    OpenAI 发布 InstructGPT 系列语言模型,称其遵循用户意图的能力优于 GPT-3,同时更真实、毒性更低,采用对齐研究中的人类参与训练技术,现已在 API 中设为默认语言模型。

    推荐理由:说明了用人类反馈对齐技术让模型更好遵循指令并降低毒性,可迁移至同类模型训练。

  1. OpenAI News66

    OpenAI 用无监督预训练在语言任务上取得 SOTA 结果

    OpenAI 宣布用一个可扩展、任务无关的系统在多种语言任务上取得 state-of-the-art 结果,并同步开源该系统。其方法结合了 transformer 与无监督预训练两个已有思路,结果表明监督学习方法搭配无监督预训练效果很好,作者希望这一结果能推动在更大、更多样数据集上开展相关研究。

    推荐理由:原文点明了方法组合与可迁移结论,读者可据此理解监督学习配无监督预训练这一思路的价值。

  1. OpenAI News60

    OpenAI 解释 Dota 2 系统靠自博弈超越职业选手

    OpenAI 表示其 Dota 2 结果表明,在算力充足时自博弈能把机器学习系统从远低于人类水平推到超人水平。系统在一个月内从勉强匹配高分玩家进步到击败顶尖职业选手,并在此后持续提升;作者指出监督学习受限于训练数据质量,而自博弈系统中可用数据会随智能体变强而自动改善。

    推荐理由:原文点明自博弈让训练数据随智能体变强而自动变好,解释了为何系统能在一个月内快速超越职业选手。

已经到底了