同一句话,英文13个token,马拉雅拉姆语26个,阿姆哈拉语78个。这也是「不同语种Token差17倍」讨论里最直观的例子,但它不是中文对英文的差距。CLEAR
研究用的是FLORES-200,997句专业翻译,203种语言-文字组合,20多万条平行文本。前20种网络常用语言,多数模型的比值落在1.5到3.1倍。老樊爱折腾实验室CLEAR
扩到约200种,最高到了17倍。分模型看,Falcon 3是17倍,GPT-5是13.8倍,Claude是9.3倍。17倍是「最贵语言÷最便宜语言」的两端极值,不是平均值。CLEAR把这种由分词器设计带来的额外成本叫「分词器税」。CLEAR
中文在这张表里常常是分母那一端。最便宜的那一端经常就是英语或简体中文;真正被17倍压住的,是另一端。CLEAR
那中文到底贵不贵?有开发者用同一套语料复测:新版OpenAI分词器下,简体中文token总量是英语的1.27倍。旧版是1.89倍,换一版分词器,差距缩小了约三分之一。放在Claude和GPT上,中文确实要多付一截;换到Qwen和DeepSeek,中文反而比英文便宜。DeepSeek最低到0.65倍。所以「用中文聊AI更费钱」只在部分外国模型上成立,幅度是几十个百分点,不是17倍。老樊爱折腾实验室极客公园
真正被拉开到数倍的,是缅甸语、藏语、老挝语、高棉语、阿姆哈拉语这些分词器很少见的文字。复测里老挝语是英语的8.26倍,藏语8.17倍。阿姆哈拉语是5.91倍。它们的使用者不算少:孟加拉语约2.66亿人,乌尔都语约2.88亿人,旁遮普语约2亿人。老樊爱折腾实验室CLEAR
多出来的token不只是账单。CLEAR提醒,一个标称128k的窗口,碰上重税语言,能装下的材料只剩一小部分,长文档和多步agent会先用不起来。做多语言产品的团队也会直接撞上:按「字数×语言数」报价,很容易低估成本。CLEAREazzy AI
这不是语言天生低效。同样的阿姆哈拉语文本,在不同分词器下能差2到8倍。分词器的词表是按训练语料里的出现频率分配的,哪种文字见得少,就更容易被拆碎。CLEAR
分词器也不是改不了。Llama 3.3的200语言比值是14.8倍,到Llama 4降到9.5倍。Qwen 3.6反而比Qwen 3更差。旧版到新版之间,中文、印地语、泰米尔语、马拉雅拉姆语和缅甸语都明显改善。全是设计选择,不是自然规律。CLEAR老樊爱折腾实验室
对普通中文用户,最实际的动作不是把提示词翻成英文,而是拿自己真实要处理的材料,测一下正在用的模型。对模型厂商和采购方,CLEAR的建议更直接:在模型卡里公布这个比值,或者改用按字符、按语言计价。CLEAR
17倍真正提醒的,不是中文用户要多掏17倍的钱,而是有些语言的使用者正在被悄悄定出更高的价格,且很难察觉。中文不在最贵的那一行,但那张价目表是真的。