Самоконтрольоване навчання
Самоконтрольоване навчання тренує моделі на немаркованих даних шляхом винаходу завдання, відповідь якого прихована в самих даних.
Огляд
It is how modern language and vision foundation models learn from the raw internet without armies of human labelers.
Глибоке занурення
Позначати дані вручну повільно та дорого, але світ повний непозначеного тексту, зображень, аудіо та відео. Самоконтрольоване навчання відкриває його, створюючи «завдання з претекстом», де дані пропонують свою відповідь. Класичним прикладом є моделювання замаскованої мови, використане BERT: приховати деякі слова в реченні та навчити модель передбачати їх з контексту. Моделі у стилі GPT передбачають наступне слово. У vision контрастні методи, такі як SimCLR, показують моделі два доповнених обрізки одного зображення та навчають її, що вони належать одне одному, одночасно розсуваючи різні зображення. Вирішення цих саморобних головоломок змушує модель створювати багаті внутрішні уявлення про значення та структуру. Потім ці представлення потужно передаються на реальні наступні завдання з невеликою кількістю позначених даних або без них.
Технічне розуміння
Хитрість полягає в тому, що сигнал спостереження генерується безкоштовно. У маскованому моделюванні прихованим маркером є мітка, тому втрату можна обчислити без анотації людини. У контрастному навчанні два доповнення одного зображення утворюють «позитивну пару», яка повинна розташовуватися поруч у просторі вбудовування, тоді як інші зображення є «негативами», відсунутими. У будь-якому випадку модель оптимізовано на мітках, отриманих виключно з власної структури даних, вивчаючи загальні характеристики, які згодом потребують лише тонкого налаштування.
Стратегічний вплив
Чіткіші рішення
Це допоможе вам відокремити чіткі технічні заяви від маркетингової мови.
Вартість і бюджет
Перш ніж витрачати гроші чи час, ви можете задати питання про кращу реалізацію.
Команда та робочий процес
Команди зі спільним розумінням приймають кращі рішення щодо продуктів, політики та навчання.
Майбутнє самоконтрольованого навчання
Самоконтрольоване навчання є двигуном сучасних базових моделей, і ця роль буде тільки зростати. Чітка тенденція полягає в мультимодальному попередньому навчанні, коли одна модель разом вчиться з тексту, зображень, аудіо та відео, використовуючи цілі для самостійного контролю. Дослідники виходять за межі контрастних методів у бік підходів замаскованого передбачення в баченні та методах самодистиляції, які не потребують негативних прикладів. Оскільки високоякісні мічені дані стають вузьким місцем, вивчення корисної структури безпосередньо з величезних немічених потоків залишатиметься центральною стратегією масштабування ШІ.
Реалізація в реальному світі
BERT вивчає мову, передбачаючи замасковані слова, а потім налаштовуючи їх на пошук, настрої чи відповіді на запитання
SimCLR попереднє навчання кодувальника зображень на фотографіях без міток, щоб потім можна було класифікувати з дуже малою кількістю міток
Моделі у стилі GPT навчаються писати, багаторазово прогнозуючи наступний маркер у величезних текстових корпусах
Моделі мовлення, попередньо навчені на необробленому немаркованому аудіо (прогнозування замаскованих звукових сегментів) перед адаптацією до транскрипції
Ризики та огорожі
Різні команди можуть використовувати той самий термін по-різному, тому визначте обсяг завчасно.
Порівняльні показники можуть виглядати сильними, тоді як продуктивність у реальному світі нерівномірна.
Ігнорування якості даних і планів оцінки часто призводить до нестабільних результатів.
Дорожня карта впровадження
Почніть із простого визначення необхідного результату.
Перед тестуванням виберіть одну метрику успіху та одну умову невдачі.
Запустіть невеликий пілот із репрезентативними даними, а не відшліфованим демонстраційним набором.
Задокументуйте, де самоконтрольоване навчання допомагає, а де простіші методи кращі.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-Supervised Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Контрольоване навчання
Часті запитання
What is Self-Supervised Learning?
Самоконтрольоване навчання тренує моделі на немаркованих даних шляхом винаходу завдання, відповідь якого прихована в самих даних. Це те, як сучасні моделі основи мови та бачення вчаться з необробленого Інтернету без армій людей, які ставлять етикетки.
Що робить навчання «самоконтрольованим»?
Самоконтрольоване навчання вигадує завдання-привід, у якому відповідь прихована в даних, тож людині не потрібні мітки.
Чому самоконтрольоване навчання таке цінне для базових моделей?
Оскільки сигнал спостереження надходить із самих даних, моделі можна попередньо навчити на величезних немаркованих корпусах з Інтернету.
Що зазвичай відбувається далі після попередньої підготовки під самоконтролем?
Попереднє навчання створює загальні уявлення, які добре передаються, тому для конкретних завдань необхідне лише легке тонке налаштування позначених даних.
Чим самоконтрольоване завдання моделі в стилі GPT відрізняється від завдання BERT?
Моделі у стилі GPT навчені передбачати наступний токен у послідовності, тоді як BERT передбачає замасковані токени, використовуючи як лівий, так і правий контекст.