方法论

翻译质量营销为何失灵——以及我们选择公布什么

每家翻译厂商都会公布支持的语言数量。但没有一家公布基于真实流量的、可验证的逐语种对质量数据。这一差距为何会影响您下一次采购评估——以及我们选择公布什么。

The Mind.com Team

翻译质量营销为何失灵——以及我们选择公布什么

翻译质量营销为何失灵——以及我们选择公布什么

打开任何一家实时翻译厂商的官网,您都会看到相似的数字:

  • "200+ 种语言"
  • "6,000+ 个语种对"
  • "全球首创" / "最高准确率"
  • "99% 准确"

现在试着在这些厂商页面上找一找:这些数字对您即将召开的一场会议究竟意味着什么。逐语种质量。可复现的方法论。样本量。随时间变化的得分。对模型短板的诚实披露。

您找不到。无论是营销文案,还是文档,都很少有。

这是整个品类的均衡状态。它之所以存在,是因为三件事:

  1. 大多数厂商并不拥有自己的翻译引擎。 他们通过 OpenAI、Google、DeepL、Microsoft 或其组合进行路由。公布逐语种对的质量数据,等于在为别人的模型做基准测试——这对营销毫无价值。
  2. 诚实的质量数据很难放上广告牌。 单一分数噪声很大。分布更有参考价值,但更难压缩呈现。过去六个月的趋势 更有参考价值,也更难呈现。
  3. 采购方尚未施加压力。 买家从表面上接受这些营销数字,于是这种均衡得以维持。

但这种均衡不会长久。下一批买家——制药、法律、金融、审计、公共部门——会提出比"支持多少种语言"更难回答的问题。我们建立了 /benchmark,正是因为我们认为他们不应该只能听信厂商的一面之词。


营销数字没有告诉您的事

"200+ 种语言" 意味着厂商有一个能在 200 种语言中输出文本的模型。这些语言的质量从主流语种对(EN↔DE、EN↔ES、EN↔FR)的生产级水准,到低资源语种对的勉强可用,跨度极大。没有逐语种对的细分,您无法判断您的会议会落在这条线的哪一侧。

"6,000+ 个语种对" 是基于 80 种源语言的 N × N 组合数学。声称支持 6,000 个语种对是容易的部分。声称某个具体语种对足以胜任 CAPA 审查、合同谈判或财报电话会议——这才是宣传册里没有的部分。

"99% 准确",如果不说明衡量了什么、对照什么参考、基于什么样本、由谁评判——本身没有任何内容含量。翻译质量没有一个普适的标量。它是一个分布,取决于语种对、内容领域、音频质量(对语音而言)、延迟预算,以及"足够好"对具体用例意味着什么。


买家实际需要知道什么

这些是真实的 DPA 评审和采购评估中会出现的问题:

  1. 逐语种对质量 ——具体在 DE↔EN、EN↔AR、JA↔KO 上的表现如何?
  2. 样本量 ——您报告的数字基于多少次运行?十次?一万次?
  3. 方法论 ——是谁在评判译文?对照什么参考?使用什么评分标准?
  4. 分布,而非平均值 ——最差的 10% 是什么样?最好的 10% 呢?中位数呢?
  5. 随时间的漂移 ——自上次公布数据以来,某个语种对的表现是变好了还是变差了?
  6. 您没有测量的内容 ——您的基准测试明确不涵盖什么?

这些问题没有一个是无法回答的。它们只是没有出现在任何一家的营销页面上。


我们公布的内容

/benchmark 是我们的答案。方法论页面在 /benchmark/methodology ——在我们想到您会读到此文之前就已写就。

它与品类常态有三点不同。

1. 真实流量,而非精选套件

公开基准中的每一个分数都来自真实的 /demo 测试运行。我们不会预先挑选表现良好的语种对。为买家提供 demo 服务的同一条流水线,正是被测量的对象。

2. 评判者具名

主评判者:google/gemini-2.5-flash。备用评判者:anthropic/claude-sonnet-4-20250514。均通过 Vercel AI Gateway。评判者是方法论的一部分——具名披露。若将来更换评判者,历史记录将保留原评判者标识;旧分数绝不会被悄悄重新打分。

3. 分布即数据,而非平均值

每一条公布的数据都展示中位数、p10、p90、最小值、最大值和样本量——而不是单一数字。对一个翻译语种对而言,单一数字就是噪声。分布的形状才是信号。


业界尚未采纳的做法

  • 低分语种对不会被隐藏。 公开索引以 ≥ 10 个不同 IP,≥ 10 次运行,中位数 ≥ 60 为门槛——但任何人都可以直接深度链接到任何语种对,查看真实数字,包括本月表现不佳的那些。
  • 已知问题有文档记录。 当 chat 测试装置在 2026 年初某几周内出现故障时,该时段从索引中被排除,并在方法论页面以书面形式注明。历史不会被悄悄改写。
  • 我们明确不主张的内容 在方法论页面有专门一节。我们说明 LLM 评判者本身在哪些地方并不完美。我们说明哪些东西我们不测量(延迟、成本、用户满意度、翻译之前的 ASR 端错误)。我们披露:我们自己的自动化烟雾测试也是流量的一部分。

下一次厂商评估的筛选标准

如果您正在评估任何多语言会议平台——无论是我们的还是别家的——方法论才是值得阅读的页面。数字本身是容易的部分。

针对本品类任何厂商的一个实用筛选清单:

  • 要求查看基于真实流量的、逐语种对、按月的质量数据。 不要精选基准。不要聚合数据。
  • 询问他们的评判者是什么,他们明确不测量什么,以及过去六个月有哪些变化。
  • 询问当某个语种对的分数下降时会发生什么 ——他们会通知任何人,还是悄悄修复?

如果厂商对这三点都有书面答案,请认真评估他们。如果没有,您买到的是营销——而不是翻译质量。


亲自试用

  • /demo ——在您的音频上运行生产翻译流水线,使用与公开基准相同的评判者打分,并向您展示输出。
  • /benchmark ——每个公布的语种对,每个月份,带完整分布。
  • /benchmark/methodology ——数字如何计算,包含什么,不包含什么。

您不必听信我们的一面之词。这正是关键所在。

通过电子邮件接收新文章

我们将在发布新文章时通过电子邮件通知您。可随时取消订阅。