跳到正文
热点事件持续更新

Hugging Face 教程:池化感知训练压缩多向量检索模型

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

Hugging Face 博客介绍在 Sentence Transformers 中做 token 池化感知训练的方法,让多向量嵌入模型在压缩后仍保留检索质量。作者称,在 pool_factor=4(文档向量减少 4 倍)下,正常训练的模型保留未池化 NanoBEIR nDCG@10 的 94.6%,而池化感知训练在同等存储预算下把保留率提高到 97.8%。 该对比中两次实验只差损失函数,作者未做超参数搜索;池化感知变体在 A10G GPU 上以四小时时限运行。

AI 根据报道生成 · 42 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. Hugging Face Blog
    Hugging Face 教程:用 pooling-aware 训练压缩多向量检索模型

    Hugging Face 博客介绍如何在 Sentence Transformers 中做 token pooling-aware 训练,让多向量嵌入模型在压缩后仍保留检索质量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。