ДаліНаступний посібник
Метрики оцінювання ROUGE та BLEU
технічний
Технічний КЕРІВНИЦТВО
BERTScore та семантична оцінка
BERTScore вимірює, наскільки добре згенерований машиною текст відповідає посиланню, порівнюючи значення, а не точні слова.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Він виправляє основну сліпу пляму старіших показників, які карають дійсні перефрази.
Глибоке занурення
BERTScore оцінює згенерований текст (переклади, резюме, підписи), вбудовуючи кожен токен у контекстну модель, як-от BERT або RoBERTa, а потім зіставляючи токени-кандидати з еталонними токенами за косинусною подібністю. Старіші показники, такі як BLEU та ROUGE, підраховують n-грами, що перекриваються, тому «кіт на килимку» та «котик сидить на килимку» мають майже нульовий результат, незважаючи на однакове значення. Натомість BERTScore обчислює жадібну відповідність токенів, а потім об’єднує в точність, відкликання та F1. Оскільки вбудовування є контекстним, те саме слово в різних реченнях отримує різні вектори, вловлюючи нюанси. Він набагато краще співвідноситься з людськими судженнями про якість, особливо для вільних перефразів, тому після появи в 2019 році він став стандартним інструментом семантичного оцінювання.
Реалізація в реальному світі
Оцінка систем машинного перекладу, де допустимі формулювання відрізняються, тому BLEU несправедливо карає правильні перефрази
Оцінка абстрактних резюме, які передають вихідний вміст новими словами, а не копіюють фрази
Порівняльний аналіз моделей підписів до зображень, де багато плавних підписів описують те саме зображення
Порівняння відповідей чат-бота або QA із золотими відповідями, коли формулювання відрізняється, але значення ідентичне
Майбутнє BERTScore та семантичного оцінювання
Семантичне оцінювання зміщується в бік освічених суддів і суддів на основі магістра права, які оцінюють фактичність, узгодженість і корисність за межами символічної схожості. BERTScore залишається швидкою, відтворюваною базовою лінією, але новіші підходи, як-от BLEURT, COMET і оцінка «LLM-as-judge», враховують якості, які пропускає BERTScore, наприклад галюциновані факти. Очікуйте гібридних конвеєрів: дешеві метрики вбудовування для широкомасштабного відбору, із більш дорогими суддями на основі моделі, зарезервованими для остаточної оцінки з високими ставками.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the BERTScore and Semantic Evaluation quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Що таке BERTScore та семантична оцінка?
BERTScore вимірює, наскільки добре згенерований машиною текст відповідає посиланню, порівнюючи значення, а не точні слова. Він виправляє основну сліпу пляму старіших показників, які карають дійсні перефрази.
Яку основну слабкість BLEU і ROUGE усуває BERTScore?
BLEU і ROUGE підраховують накладення n-грамів, тому парафрази, які зберігають значення з різними словами, отримують погані оцінки, навіть якщо є правильними.
Як BERTScore вирішує, що два токени схожі?
BERTScore вбудовує токени за допомогою такої моделі, як BERT, і порівнює їх за допомогою косинусної подібності у векторному просторі.
Що означає, що вбудовування BERTScore є «контекстними»?
Контекстуальні моделі створюють різні вкладення для того самого слова в різних контекстах, вловлюючи нюанс значення.
Які три значення зазвичай повідомляє BERTScore?
BERTScore об’єднує зіставлення токенів у точність, запам’ятовування та комбінований бал F1.
Яка мета додаткового зважування IDF у BERTScore?
Зворотна частота документа зменшує вплив таких слів, як "the", які часто мають мало значення.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми