Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型,将文本、代码、图像、视频和音频统一映射到共享嵌入空间。
推荐理由:给出了参数量、内存占用与上下文长度等具体指标,读者可据此判断它是否适合端侧部署。
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型,将文本、代码、图像、视频和音频统一映射到共享嵌入空间。
推荐理由:给出了参数量、内存占用与上下文长度等具体指标,读者可据此判断它是否适合端侧部署。
Hugging Face 发布六个基于 Ettin ModernBERT 编码器的 Sentence Transformers CrossEncoder 重排模型,尺寸从 17M 到 1B,均以 Apache 2.0 开源,并同步公开训练数据 cross-encoder/ettin-reranker-v1-data(约 143M 三元组)和约 150 行的完整训练脚本。
推荐理由:给出了各尺寸的基准对比和消融数据,读者可据此判断何时该用它替换现有 reranker。
Hugging Face 发布 mmBERT,一个基于 ModernBERT 构建的大规模多语言编码器模型,使用 3T+ tokens、覆盖 1800 多种语言训练,是首个在性能与速度上超越 XLM-R 的同类模型。
推荐理由:原文给出三阶段训练与低资源语言在衰减阶段快速学习的细节,可迁移其渐进式多语言训练思路。
Google 发布 EmbeddingGemma(google/embeddinggemma-300m),一款 308M 参数、2K 上下文窗口、支持 100 多种语言的多语言嵌入模型,面向端侧场景,量化后内存占用低于 200 MB,在 MTEB 上是 500M 以下排名最高的纯文本多语言嵌入模型。
推荐理由:给出了架构改动、多框架接入方式和微调脚本,读者可据此判断如何在端侧 RAG 中落地该模型。