Strojový překlad

Neuronové systémy to často vnímají jako úkol sekvence po sekvenci: přečíst jednu sekvenci a vytvořit další. Vytvoření a vyhodnocení takového systému vyžaduje pozornost na zarovnání dat a chyby specifické pro jazyk.

Klíčové věci

• Zkontrolujte zarovnané rozdělení dat a dokumentů.
• Konfigurace hodnocení záznamu.
• Kontrolujte chyby měnící význam podle jazykového páru.

Paralelní tréninková data párují zdrojové pasáže s odpovídajícími překlady. Nesprávné zarovnání, duplicitní materiál nebo nesouladné jazykové štítky mohou naučit nesprávný vztah. Při rozdělení hodnotících dat vyčistěte páry a udržujte dokumenty pohromadě, abyste předešli téměř duplicitnímu úniku. Tokenizace určuje, jak se text stává vstupem modelu. Tokenizér, který efektivně zpracovává jeden systém psaní, může rozdělit jiný na mnohem více jednotek. Zkontrolujte délkové limity v obou jazycích a zda zkrácení neodstraní konec zdrojového nebo cílového textu. Automatické metriky umožňují opakované experimenty praktické. BLEU porovnává vzory slovních sekvencí s referenčními překlady, ale metrika není úplným posouzením významu, čitelnosti nebo vhodnosti pro danou doménu. Nastavení hodnocení a volba referencí jsou důležité, proto je zaznamenejte spolu se skóre. Používejte taxonomii chyb vedle metrik: přidávání, vynechání, změněná čísla, nekonzistentní terminologie, nesprávné negace a nepohodlné formulace. Hodnoťte každý jazykový pár a doménu zvlášť. Průměr napříč několika dobře vybavenými jazyky může zakrýt chyby v méně zastoupeném jazyce nebo specializovaném typu dokumentu.

1. Představte si odkaz "Balíček nedorazil." Kandidát A říká "Balíček nikdy nedorazil." Kandidát B říká "Balíček dorazil."
2. Kandidát A používá jiná slova, ale zachovává hlavní význam. Kandidát B se podobá odkazu, ale obrací výsledek.
3. Zaznamenejte chybu negace explicitně, místo abyste vybírali překlad pouze podle vzhledu nebo překryvu.

Konstruovaný příklad ukazuje, proč je potřeba sémantická revizi metrických porovnání.