Hugging Face Blog·· 4 小时前AI 评分53
VocabX 如何通过专业化 SLM 词表在实际应用中将推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 预览即将发布的 VocabX 论文方法，按每个 token 的生成成本而非出现频率重建小模型词表，并在其生产环境的葡萄牙语作文评分器上把实测推理成本降低 77%。
来源：Hugging Face Blog · huggingface.co