翻译质量营销为何失灵——以及我们选择公布什么
打开任何一家实时翻译厂商的官网,您都会看到相似的数字:
- "200+ 种语言"
- "6,000+ 个语种对"
- "全球首创" / "最高准确率"
- "99% 准确"
现在试着在这些厂商页面上找一找:这些数字对您即将召开的一场会议究竟意味着什么。逐语种质量。可复现的方法论。样本量。随时间变化的得分。对模型短板的诚实披露。
您找不到。无论是营销文案,还是文档,都很少有。
这是整个品类的均衡状态。它之所以存在,是因为三件事:
- 大多数厂商并不拥有自己的翻译引擎。 他们通过 OpenAI、Google、DeepL、Microsoft 或其组合进行路由。公布逐语种对的质量数据,等于在为别人的模型做基准测试——这对营销毫无价值。
- 诚实的质量数据很难放上广告牌。 单一分数噪声很大。分布更有参考价值,但更难压缩呈现。
过去六个月的趋势更有参考价值,也更难呈现。 - 采购方尚未施加压力。 买家从表面上接受这些营销数字,于是这种均衡得以维持。
但这种均衡不会长久。下一批买家——制药、法律、金融、审计、公共部门——会提出比"支持多少种语言"更难回答的问题。我们建立了 /benchmark,正是因为我们认为他们不应该只能听信厂商的一面之词。
营销数字没有告诉您的事
"200+ 种语言" 意味着厂商有一个能在 200 种语言中输出文本的模型。这些语言的质量从主流语种对(EN↔DE、EN↔ES、EN↔FR)的生产级水准,到低资源语种对的勉强可用,跨度极大。没有逐语种对的细分,您无法判断您的会议会落在这条线的哪一侧。
"6,000+ 个语种对" 是基于 80 种源语言的 N × N 组合数学。声称支持 6,000 个语种对是容易的部分。声称某个具体语种对足以胜任 CAPA 审查、合同谈判或财报电话会议——这才是宣传册里没有的部分。
"99% 准确",如果不说明衡量了什么、对照什么参考、基于什么样本、由谁评判——本身没有任何内容含量。翻译质量没有一个普适的标量。它是一个分布,取决于语种对、内容领域、音频质量(对语音而言)、延迟预算,以及"足够好"对具体用例意味着什么。
买家实际需要知道什么
这些是真实的 DPA 评审和采购评估中会出现的问题:
- 逐语种对质量 ——具体在 DE↔EN、EN↔AR、JA↔KO 上的表现如何?
- 样本量 ——您报告的数字基于多少次运行?十次?一万次?
- 方法论 ——是谁在评判译文?对照什么参考?使用什么评分标准?
- 分布,而非平均值 ——最差的 10% 是什么样?最好的 10% 呢?中位数呢?
- 随时间的漂移 ——自上次公布数据以来,某个语种对的表现是变好了还是变差了?
- 您没有测量的内容 ——您的基准测试明确不涵盖什么?
这些问题没有一个是无法回答的。它们只是没有出现在任何一家的营销页面上。
我们公布的内容
/benchmark 是我们的答案。方法论页面在 /benchmark/methodology ——在我们想到您会读到此文之前就已写就。
它与品类常态有三点不同。
1. 真实流量,而非精选套件
公开基准中的每一个分数都来自真实的 /demo 测试运行。我们不会预先挑选表现良好的语种对。为买家提供 demo 服务的同一条流水线,正是被测量的对象。
2. 评判者具名
主评判者:google/gemini-2.5-flash。备用评判者:anthropic/claude-sonnet-4-20250514。均通过 Vercel AI Gateway。评判者是方法论的一部分——具名披露。若将来更换评判者,历史记录将保留原评判者标识;旧分数绝不会被悄悄重新打分。
3. 分布即数据,而非平均值
每一条公布的数据都展示中位数、p10、p90、最小值、最大值和样本量——而不是单一数字。对一个翻译语种对而言,单一数字就是噪声。分布的形状才是信号。
业界尚未采纳的做法
- 低分语种对不会被隐藏。 公开索引以
≥ 10 个不同 IP,≥ 10 次运行,中位数 ≥ 60为门槛——但任何人都可以直接深度链接到任何语种对,查看真实数字,包括本月表现不佳的那些。 - 已知问题有文档记录。 当 chat 测试装置在 2026 年初某几周内出现故障时,该时段从索引中被排除,并在方法论页面以书面形式注明。历史不会被悄悄改写。
- 我们明确不主张的内容 在方法论页面有专门一节。我们说明 LLM 评判者本身在哪些地方并不完美。我们说明哪些东西我们不测量(延迟、成本、用户满意度、翻译之前的 ASR 端错误)。我们披露:我们自己的自动化烟雾测试也是流量的一部分。
下一次厂商评估的筛选标准
如果您正在评估任何多语言会议平台——无论是我们的还是别家的——方法论才是值得阅读的页面。数字本身是容易的部分。
针对本品类任何厂商的一个实用筛选清单:
- 要求查看基于真实流量的、逐语种对、按月的质量数据。 不要精选基准。不要聚合数据。
- 询问他们的评判者是什么,他们明确不测量什么,以及过去六个月有哪些变化。
- 询问当某个语种对的分数下降时会发生什么 ——他们会通知任何人,还是悄悄修复?
如果厂商对这三点都有书面答案,请认真评估他们。如果没有,您买到的是营销——而不是翻译质量。
亲自试用
/demo——在您的音频上运行生产翻译流水线,使用与公开基准相同的评判者打分,并向您展示输出。/benchmark——每个公布的语种对,每个月份,带完整分布。/benchmark/methodology——数字如何计算,包含什么,不包含什么。
您不必听信我们的一面之词。这正是关键所在。