Dharma AI 预览 VocabX 方法:缩 Qwen3-4B 词表降评分推理成本 77%
热点事件持续更新
Dharma AI 预览 VocabX 方法:缩 Qwen3-4B 词表降评分推理成本 77%
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Dharma AI 在 Hugging Face Blog 上预热其即将发表的 VocabX 论文:用按 token 生成成本而非出现频率挑选词汇的思路,把 Qwen3-4B 的词表由约 15.2 万缩到约 6.5 万,使其在葡萄牙语作文评分任务上的生成 token 数由 350 降到 101、基准得分由 0.703 升到 0.810,并在 RTX 5090 上以 vLLM 实测推理成本下降 77.0%。 该方法针对的是这一专用场景,Dharma AI 也称上述数字来自仍在评审、尚未正式发表的论文版本,发表前可能调整;完整方法、所有实验表格以及被弃用的方案将放在论文正文里。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 01:35
VocabX:按成本重写词汇表,文章评分 SLM 推理成本下降 77%报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- Hugging Face Blog精选VocabX:按成本重写词汇表,文章评分 SLM 推理成本下降 77%
Dharma AI 介绍了即将发表的 VocabX 方法,通过按生成 token 成本而非出现频率挑选词汇,将 Qwen3-4B 在葡萄牙语作文评分这一专用场景中的词汇规模从约 152,000 缩到约 65,000,使生成 token 数从 350 降到 101,RTX 5090 上 vLLM 实测推理成本下降 77.0%,bench 得分由 0.703 提升到 0.810。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。