跳到正文
热点事件持续更新

VocabX 预告:按 token 成本特化词表降 77% 推理成本

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Dharma AI 在 Hugging Face Blog 预告即将发表的 VocabX 论文,称在不改动基座模型和训练配方的前提下,通过按每个 token 的服务成本(而非出现频次)重建词表,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。 该评分器场景中,生成一个 token 的成本约为读取一个 token 的 7.4 倍,但 Dharma AI 称该比例会随硬件、任务、批大小、上下文长度等因素变化。文中数据来自仍在同行评审中的论文当前版本,正式发表前可能变动;完整方法与全部实验表格将随论文发布。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hugging Face Blog
    VocabX 论文预告:按 token 成本特化 SLM 词表可将推理成本降低 77%

    Dharma AI 预告即将发表的 VocabX 论文,提出按每个 token 的服务成本而非出现频次来重建词表,在不改动基座模型和训练配方的前提下,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月22日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。