Proč je marketing kvality překladu rozbitý — a co publikujeme my místo něj
Otevřete web libovolného poskytovatele živého překladu. Uvidíte pořád stejné druhy čísel:
- „200+ jazyků“
- „6 000+ jazykových párů“
- „První na světě“ / „Nejvyšší přesnost“
- „99% přesnost“
Zkuste teď na kterékoli z těch stránek najít, co tato čísla znamenají pro schůzku, kterou se chystáte vést. Kvalitu po jednotlivých jazycích. Reprodukovatelnou metodiku. Velikost vzorku. Vývoj skóre v čase. Upřímné přiznání, kde je model slabý.
Nenajdete to. Ani v marketingových textech, a jen zřídka v dokumentaci.
Je to rovnováha celé kategorie. Existuje ze tří důvodů:
- Většina poskytovatelů nevlastní vlastní překladový engine. Směrují provoz přes OpenAI, Google, DeepL, Microsoft nebo jejich kombinaci. Publikovat kvalitu po jednotlivých párech by znamenalo srovnávat model někoho jiného — a to nemá žádnou marketingovou hodnotu.
- Upřímná data o kvalitě se špatně dávají na billboard. Jediné skóre je zašuměné. Rozdělení je užitečnější, ale hůř se stlačuje. Užitečnější je ještě
last-six-months trend, a zkomprimovat ho je ještě těžší. - Nákup zatím nezačal klást odpor. Kupující přijímají marketingová čísla tak, jak jsou, a rovnováha tak drží.
Rovnováha držet nebude. Další třída kupujících — farmacie, právo, finance, audit, veřejný sektor — bude klást těžší otázky než „kolik jazyků“. Vytvořili jsme /benchmark, protože si myslíme, že by nemuseli brát slovo poskytovatele bez ověření.
Co vám marketingová čísla neříkají
„200+ jazyků“ znamená, že poskytovatel má model, který generuje text ve 200 jazycích. Kvalita napříč těmito jazyky sahá od produkční úrovně u hlavních párů (EN↔DE, EN↔ES, EN↔FR) až po sotva použitelnou u párů s málo zdroji. Bez rozpisu po jednotlivých párech nepoznáte, na které straně té hranice vaše schůzka skončí.
„6 000+ jazykových párů“ je kombinatorika N × N nad 80 zdrojovými jazyky. Prohlásit, že podporujete 6 000 párů, je ta snadná část. Prohlásit, že konkrétní pár stačí na CAPA review, vyjednávání smlouvy nebo výsledkový hovor — to je část, která v brožuře chybí.
„99% přesnost“ je bez udání toho, co se měřilo, proti jaké referenci, na jakém vzorku a kdo hodnotil, bez obsahu. Kvalita překladu nemá univerzální skalární hodnotu. Má rozdělení, které závisí na jazykovém páru, oblasti obsahu, kvalitě zvuku (u hlasu), latenčním rozpočtu a na tom, co znamená „dost dobré“ pro konkrétní případ užití.