ДалееСледующее руководство
Самосогласованное декодирование
Языковой ИИ
РУКОВОДСТВО ПО ЯЗЫКУ ИИ
Декодирование минимального байесовского риска (MBR) выбирает выход, который наиболее похож на многие другие вероятные выходы, а не один выход с наибольшей вероятностью.
Прослушайте это руководствоОзвучено ИИ · ~2 min
Он оптимизируется по показателю качества, который вам действительно важен, а не по чистой вероятности.
Standard decoding often selects the most probable sequence, while minimum Bayes risk (MBR) selects a candidate that minimizes expected loss—or equivalently maximizes expected utility—under a chosen comparison function and reference distribution. In practice, systems sample candidate outputs and use that pool as an approximation to the model’s output distribution, then score candidates against the pseudo-references. The quality depends on the candidate pool and the selected metric. In machine translation, studies have evaluated neural metrics such as COMET as utility functions and reported gains in their tested settings; this is not a general guarantee across tasks or metrics. Naive pairwise scoring can require quadratic comparisons, motivating approximate or pruned procedures. Risk is defined from the chosen loss or utility convention, not universally as one minus a similarity score.
Выбор лучшего машинного перевода из выборки кандидатов с использованием COMET в качестве утилиты
Выбор резюме, которые лучше всего согласуются с другими выбранными резюме, чтобы избежать галлюцинаторных выбросов.
Самосогласованность рассуждений, при которой выбирается наиболее распространенный выборочный ответ (голосование по типу MBR).
Изменение ранжирования гипотез распознавания речи или субтитров по взаимному сходству
Research continues to explore learned metrics such as COMET and MetricX, candidate pruning, and lower-cost approximations to MBR. Some machine-translation studies report gains over beam search in their evaluated settings, but performance depends on the task, metric, sampling distribution, and computation budget. Distillation can also be studied as a way to approximate a selection policy with a single model pass. Applications to other domains require separate evaluation.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Декодирование минимального байесовского риска (MBR) выбирает выход, который наиболее похож на многие другие вероятные выходы, а не один выход с наибольшей вероятностью. Он оптимизируется по показателю качества, который вам действительно важен, а не по чистой вероятности.
MBR выбирает кандидата, который максимизирует ожидаемую полезность (минимизирует риск) относительно других вероятных результатов модели, а не кандидата MAP.
MBR аппроксимирует эталонное распределение собственными выборочными гипотезами, сравнивая каждого кандидата с остальной частью пула.
Оценка каждого кандидата по сравнению с остальными кандидатами масштабируется квадратично, мотивируя сокращение и кластеризацию для снижения затрат.
Research evaluates COMET as an MBR utility in particular machine-translation settings; results depend on the task, metric, and candidate distribution.
MBR minimizes expected loss; when utility is used instead, maximizing expected utility is an equivalent convention. The exact numerical form depends on the chosen loss or utility.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Самосогласованное декодирование
Языковой ИИ