Машинный перевод

Данные параллельного обучения объединяют исходные отрывки с соответствующими переводами. Неправильное выравнивание, дублированный материал или несовпадающие языковые метки могут привести к неправильному взаимодействию. Очищайте пары и храните документы вместе при разделении данных оценки, чтобы избежать почти дублирующейся утечки. Токенизация определяет, как текст становится входными данными модели. Токенизатор, который эффективно обрабатывает одну систему письма, может разделить другую на множество других единиц. Проверьте ограничения длины на обоих языках и проверьте, удаляется ли при усечении конец исходного или целевого отрывка. Автоматические метрики делают повторные эксперименты практичными. BLEU сравнивает образцы последовательностей слов со ссылочными переводами, но метрика не является полной оценкой значения, читаемости или пригодности для предметной области. Настройки оценки и выбор эталонов имеют значение, поэтому запишите их вместе с оценкой. Используйте таксономию ошибок вместе с показателями: добавления, пропуски, измененные числа, противоречивая терминология, неправильное отрицание и неуклюжие формулировки. Оценивайте каждую языковую пару и домен отдельно. Среднее значение по нескольким хорошо обеспеченным ресурсами языкам может скрыть сбои в менее представленном языке или специализированном типе документа.