ДаліНаступний посібник
Representation and Sampling Bias in Datasets
технічний
Технічний КЕРІВНИЦТВО
Запланована вибірка та зміщення експозиції
Зміщення експозиції — це проміжок, який з’являється, коли модель, навчена лише на ідеальних префіксах, повинна, при висновку, обумовлювати свої власні недосконалі результати.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Планова вибірка — це навчальна програма, яка поступово усуває цю прогалину.
Глибоке занурення
Моделі, навчені за допомогою вчителів, бачать лише базові маркери істинності як контекст, але під час генерації вони подають свої власні передбачення. Коли рання помилка переводить модель у такий стан, з яким вона ніколи не стикалася під час навчання, помилки можуть сніжним комом, такий режим збою називається зміщенням експозиції. Планова вибірка, запроваджена Бенгіо та його колегами в 2015 році, вирішує це шляхом підкидання монети на кожному кроці декодування під час навчання: з певною ймовірністю вона подає справжній маркер (форсування вчителем), а в іншому випадку вона подає власне вибіркове передбачення моделі. Імовірність використання базової істини починається близько одиниці та зменшується під час навчання за графіком (лінійним, експоненціальним або зворотно-сигмоїдним), тому модель поступово піддається впливу власних результатів і вчиться відновлюватися після своїх помилок.
Реалізація в реальному світі
Навчання моделі підписів до зображень із запланованою вибіркою, щоб вона навчилася витончено продовжувати після недосконалого передбаченого слова
Зменшення ймовірності примусу вчителя за допомогою інверсного сигмоподібного розкладу в системі нейронного машинного перекладу
Діагностика чат-бота, який дрейфує в неузгоджені петлі, як симптом упередженого впливу від чистого примусу вчителя
Порівняння балів BLEU для підсумовувача, навченого з повним примусовим вчителем, у порівнянні з одним, навченим із запланованою вибіркою
Майбутнє планового відбору проб і зміщення експозиції
Для великих моделей мови Transformer обговорюється практичний вплив зміщення експозиції, оскільки величезні дані та масштаб послаблюють його, а такі методи, як RLHF, безпосередньо змінюють поведінку генерації. Тим не менш, планова вибірка та її нащадки залишаються актуальними для менших моделей, структурованої генерації та завдань із суворими вимогами до точності. Майбутня робота поєднує в собі ознайомлення з навчальною програмою, цілі послідовності у стилі підкріплення та навчання з мінімальним ризиком, щоб узгодити те, як навчаються моделі, з тим, як вони фактично декодують.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Scheduled Sampling and Exposure Bias quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Що таке запланована вибірка та зміщення експозиції?
Зміщення експозиції — це проміжок, який з’являється, коли модель, навчена лише на ідеальних префіксах, повинна, при висновку, обумовлювати свої власні недосконалі результати. Планова вибірка — це навчальна програма, яка поступово усуває цю прогалину.
Що робить запланована вибірка під час навчання?
Запланована вибірка стохастично змішує базову істину та згенеровані моделлю маркери як вхідні дані декодера, керовані ймовірністю спаду.
Як змінюється ймовірність використання маркера наземної правди під час навчання в плановій вибірці?
Розклад починається майже з повної форсування вчителя та затухає, тому модель все більше піддається власним прогнозам у міру її вдосконалення.
Хто запровадив плановий відбір проб і коли приблизно?
Семі Бенгіо та його колеги в 2015 році запропонували планову вибірку для прогнозування послідовності з рекурентними мережами.
Яку форму розкладу зазвичай називають для зменшення ймовірності примусу вчителя?
Оригінальна робота пропонувала лінійний, експоненціальний та зворотний сигмоїдний графіки розпаду для зменшення ймовірності вибірки наземної правди.
На етапі декодування, де запланована вибірка вибирає гілку вихідних даних моделі, що подається як наступний маркер контексту?
Запланована вибірка іноді подає власний вибірковий прогноз моделі замість золотого попереднього токена.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми