Настройка на префикса
Настройката на префикса е ефективен по отношение на параметрите начин за адаптиране на замразен езиков модел чрез обучение на малък набор от непрекъснати вектори, които се добавят преди входа на всеки слой.
Преглед
It lets you customize giant models for new tasks while updating less than 1% of parameters.
Дълбоко гмуркане
Префиксната настройка, въведена от изследователите от Станфорд Ли и Лианг през 2021 г., адаптира предварително обучен трансформатор, без да докосва теглото му. Вместо фина настройка на всички параметри, той добавя поредица от обучаеми „виртуални токени“ (префикса) към ключовете и стойностите на всеки слой за внимание. Замразеният модел обръща внимание на този префикс, сякаш е реален контекст, насочвайки поведението си към целева задача. Тъй като се научават само префиксните вектори, можете да съхранявате един малък префикс на задача вместо пълно копие на модела. Това прави обслужването на много задачи евтино и избягва раздуването на паметта при пълна фина настройка. Той се справя особено добре при задачи за генериране като таблица към текст и обобщаване, като често съответства на пълна фина настройка при настройки с голям обем данни.
Техническа информация
За разлика от бързата настройка, която добавя вектори само към слоя за вграждане на входа, настройката на префикса инжектира подлежащи на обучение вектори ключ/стойност във всеки трансформаторен слой. За да се стабилизира обучението, префиксът обикновено се генерира от малка захранваща мрежа (трик за препараметризиране), вместо да се оптимизира директно; тази мрежа се изхвърля след обучение, оставяйки само научените префиксни матрици. Само тези параметри на префикса получават градиенти - целият гръбнак остава замразен.
Стратегическо въздействие
Speed and scale
Езиковите работни процеси могат да се движат по-бързо, без да се жертва последователността.
Access and reach
Той разширява достъпа между езици и стилове на комуникация.
Clearer decisions
Екипите могат да отделят повече време за преценка, докато автоматизацията се справя с повторението.
Бъдещето на настройката на префикса
Настройката на префикса помогна за стартирането на вълната за ефективна по отношение на параметрите фина настройка (PEFT) и остава градивен елемент в библиотеки като Hugging Face PEFT. Тъй като базовите модели нарастват със стотици милиарди параметри, леките адаптери като префикси стават все по-привлекателни за обслужване на множество клиенти и персонализиране на устройството. Очаквайте продължаващи хибридни подходи, които смесват префикси с актуализации от нисък ранг в стил LoRA и нарастваща употреба при контролиране на стила, личността и поведението на безопасност, без да се преквалифицират цели модели.
Внедряване в реалния свят
Адаптиране на един замразен GPT-2 гръбнак за генериране на таблица към текст чрез обучение на малък префикс в набора от данни WebNLG
Обслужване на десетки специфични за клиента стилове на обобщаване от един споделен модел, всеки като префиксен файл с възможност за размяна
Насочване на тона или личността на езиковия модел за чатбот без повторно обучение на базовите тегла
Адаптиране на домейн с ниски данни, като например генериране на правни или медицински текстове, където пълната фина настройка би била излишна
Рискове и предпазни огради
Халюцинираните факти могат тихо да влязат в отчети, потоци за поддръжка или резултати от изследвания.
Бързата чувствителност може да създаде противоречиви резултати при подобни заявки.
Чувствителните текстови данни могат да бъдат разкрити, ако контролите за достъп са слаби.
Пътна карта за изпълнение
Определете изходен формат, тон и стандарти за качество преди внедряване.
Наземни отговори с доверени източници винаги, когато точността има значение.
Поддържайте контролна точка за човешки преглед за изходи с високи залози.
Проследявайте моделите на неуспехи и редовно обучавайте подкани или работни потоци.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prefix Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Фина настройка на извадката за отхвърляне
Frequently asked questions
What is Prefix Tuning?
Настройката на префикса е ефективен по отношение на параметрите начин за адаптиране на замразен езиков модел чрез обучение на малък набор от непрекъснати вектори, които се добавят преди входа на всеки слой. Позволява ви да персонализирате гигантски модели за нови задачи, като същевременно актуализирате по-малко от 1% от параметрите.
Какво всъщност обучава настройката на префикса?
Настройката на префикса замразява гръбнака и научава само малък набор от непрекъснати префиксни вектори, като го поддържа параметърно ефективен.
Къде се инжектират префиксните вектори?
Настройката на префикса добавя предварително обучаеми вектори ключ/стойност към всеки трансформаторен слой, а не само към входа.
Кой въведе настройката на префикса и кога приблизително?
Настройката на префикса беше предложена от Xiang Lisa Li и Percy Liang в Станфорд през 2021 г.
Защо настройката на префикса е привлекателна за обслужване на много задачи?
Тъй като само малкият префикс е специфичен за задачата, вие съхранявате по един малък файл на задача, вместо да дублирате целия модел.
Какъв трик често се използва за стабилизиране на обучението с префикс?
Малък MLP генерира префикса по време на обучение за стабилност, след което се изхвърля, оставяйки само научените префиксни матрици.