Pourquoi le marketing de la qualité de traduction est défaillant — et ce que nous publions à la place
Ouvrez le site de n'importe quel fournisseur de traduction en direct. Vous y verrez les mêmes types de chiffres :
- « Plus de 200 langues »
- « Plus de 6 000 paires de langues »
- « Le premier au monde » / « La précision la plus élevée »
- « 99 % de précision »
Essayez maintenant de trouver — sur l'une quelconque de ces pages de fournisseurs — ce que ces chiffres signifient pour la réunion que vous êtes sur le point de lancer. Qualité par langue. Méthodologie reproductible. Taille de l'échantillon. Évolution du score dans le temps. Divulgation honnête des points faibles du modèle.
Vous ne le trouverez pas. Ni dans le texte marketing, et rarement dans la documentation.
C'est l'équilibre de cette catégorie. Il existe pour trois raisons :
- La plupart des fournisseurs ne possèdent pas leur propre moteur de traduction. Ils acheminent les requêtes via OpenAI, Google, DeepL, Microsoft ou une combinaison de ces acteurs. Publier des données de qualité par paire reviendrait à évaluer le modèle d'un autre — cela n'a aucune valeur marketing.
- Les données de qualité honnêtes sont difficiles à mettre sur une affiche. Un score unique est bruité. Une distribution est plus utile, mais plus difficile à résumer. Une
tendance sur les six derniers moisest encore plus utile, et encore plus difficile à résumer. - Les directions des achats ne se sont pas encore opposées. Les acheteurs acceptent les chiffres marketing pour argent comptant, et l'équilibre se maintient.
Cet équilibre ne durera pas. La prochaine catégorie d'acheteurs — le secteur pharmaceutique, le domaine juridique, la finance, l'audit, le secteur public — posera des questions plus pointues que « combien de langues ». Nous avons construit /benchmark parce que nous pensons qu'ils ne devraient pas avoir à se fier à la parole d'un fournisseur.
Ce que les chiffres marketing ne vous disent pas
« Plus de 200 langues » signifie qu'un fournisseur possède un modèle qui génère du texte dans 200 langues. La qualité pour ces langues varie de niveau production pour les paires majeures (EN↔DE, EN↔ES, EN↔FR) à peine utilisable pour les paires à faibles ressources. Sans une répartition par paire, vous ne pouvez pas dire de quel côté de cette ligne votre réunion se situera.
« Plus de 6 000 paires de langues » repose sur la combinatoire N × N de 80 langues source. Affirmer que l'on prend en charge 6 000 paires est la partie facile. Affirmer qu'une paire spécifique est suffisamment fiable pour une révision CAPA, une négociation de contrat ou un appel sur les résultats financiers — c'est la partie qui ne figure pas dans la brochure.
« 99 % de précision », sans préciser ce qui a été mesuré, par rapport à quelle référence, sur quel échantillon, par quel juge — est vide de sens. La qualité de traduction n'a pas d'échelle universelle. Elle possède une distribution qui dépend de la paire de langues, du domaine de contenu, de la qualité audio (pour la voix), du budget de latence et de ce que « suffisamment bon » signifie pour le cas d'usage spécifique.