Strojenie prefiksów
Strojenie prefiksów to efektywny pod względem parametrów sposób dostosowania zamrożonego modelu języka poprzez uczenie małego zestawu wektorów ciągłych, które są dołączane do danych wejściowych każdej warstwy.
Przegląd
It lets you customize giant models for new tasks while updating less than 1% of parameters.
Głębokie nurkowanie
Strojenie prefiksów, wprowadzone przez badaczy ze Stanford, Li i Lianga w 2021 r., dostosowuje wstępnie wytrenowany transformator bez dotykania jego ciężarów. Zamiast dostrajać wszystkie parametry, dołącza sekwencję możliwych do wyszkolenia „wirtualnych tokenów” (przedrostek) do kluczy i wartości w każdej warstwie uwagi. Zamrożony model traktuje ten przedrostek tak, jakby był to prawdziwy kontekst, kierując swoje zachowanie w stronę docelowego zadania. Ponieważ zapamiętywane są tylko wektory przedrostków, można przechowywać jeden mały przedrostek na zadanie zamiast pełnej kopii modelu. Dzięki temu obsługa wielu zadań jest tania i pozwala uniknąć powiększenia pamięci w wyniku pełnego dostrajania. Szczególnie dobrze sprawdza się w przypadku zadań związanych z generowaniem, takich jak zamiana tabeli na tekst i podsumowywanie, często dostosowując się do ustawień wymagających dużej ilości danych.
Wgląd techniczny
W przeciwieństwie do szybkiego strojenia, które dodaje wektory tylko w wejściowej warstwie osadzania, strojenie prefiksów wprowadza możliwe do wytrenowania wektory klucz/wartość do samouwagi każdej warstwy transformatora. Aby ustabilizować trening, przedrostek jest zwykle generowany przez małą sieć ze sprzężeniem zwrotnym (sztuczka reparametryzacji), a nie bezpośrednio optymalizowany; sieć ta jest odrzucana po szkoleniu, pozostawiając jedynie wyuczone macierze przedrostków. Tylko te parametry prefiksu otrzymują gradienty — cały szkielet pozostaje zamrożony.
Wpływ strategiczny
Szybkość i skala
Przepływy pracy związane z językiem mogą przebiegać szybciej bez utraty spójności.
Dostęp i zasięg
Rozszerza dostęp w różnych językach i stylach komunikacji.
Jaśniejsze decyzje
Zespoły mogą spędzać więcej czasu na ocenie, podczas gdy automatyzacja radzi sobie z powtarzalnością.
Przyszłość strojenia prefiksów
Dostrajanie prefiksów pomogło uruchomić falę dostrajania efektywnego pod względem parametrów (PEFT) i pozostaje elementem składowym bibliotek takich jak Hugging Face PEFT. W miarę jak modele podstawowe rozrastają się do setek miliardów parametrów, lekkie adaptery, takie jak prefiksy, stają się coraz bardziej atrakcyjne w przypadku obsługi wielu dzierżawców i personalizacji na urządzeniu. Należy spodziewać się ciągłego podejścia hybrydowego, które łączy prefiksy z aktualizacjami niskiej rangi w stylu LoRA oraz rosnącego wykorzystania w kontrolowaniu stylu, osobowości i zachowań związanych z bezpieczeństwem bez konieczności ponownego szkolenia całych modeli.
Implementacja w świecie rzeczywistym
Dostosowywanie jednego zamrożonego szkieletu GPT-2 do generowania tabeli na tekst poprzez uczenie małego prefiksu w zestawie danych WebNLG
Udostępnianie dziesiątek stylów podsumowań specyficznych dla klienta z jednego udostępnionego modelu, każdy jako wymienny plik prefiksu
Sterowanie tonem lub osobowością modelu językowego dla chatbota bez ponownego szkolenia podstawowych wag
Dostosowanie domeny o małej ilości danych, np. generowanie tekstów prawnych lub medycznych, gdzie pełne dostrajanie byłoby nadmierne
Zagrożenia i poręcze
Halucynacyjne fakty mogą po cichu trafiać do raportów, strumieni wsparcia lub wyników badań.
Szybka czułość może spowodować niespójne wyniki w przypadku podobnych żądań.
Wrażliwe dane tekstowe mogą zostać ujawnione, jeśli kontrola dostępu jest słaba.
Plan wdrożenia
Zdefiniuj format wyjściowy, ton i standardy jakości przed wdrożeniem.
Zawsze, gdy liczy się dokładność, korzystaj z zaufanych źródeł.
Utrzymuj punkt kontrolny weryfikacji ręcznej w przypadku wyników o wysokiej stawce.
Śledź wzorce niepowodzeń i regularnie powtarzaj monity lub przepływy pracy.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prefix Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Dostrajanie próbkowania odrzucenia
Często zadawane pytania
What is Prefix Tuning?
Strojenie prefiksów to efektywny pod względem parametrów sposób dostosowania zamrożonego modelu języka poprzez uczenie małego zestawu wektorów ciągłych, które są dołączane do danych wejściowych każdej warstwy. Pozwala dostosować gigantyczne modele do nowych zadań, aktualizując mniej niż 1% parametrów.
Co właściwie trenuje strojenie prefiksów?
Strojenie prefiksów zamraża szkielet i uczy się tylko małego zestawu ciągłych wektorów prefiksów, utrzymując efektywność parametrów.
Gdzie wstrzykiwane są wektory przedrostków?
Strojenie prefiksów dodaje możliwe do wytrenowania wektory klucz/wartość w samouważności każdej warstwy transformatora, a nie tylko na wejściu.
Kto wprowadził strojenie przedrostków i mniej więcej kiedy?
Strojenie prefiksów zaproponowali Xiang Lisa Li i Percy Liang na Uniwersytecie Stanforda w 2021 roku.
Dlaczego strojenie prefiksów jest atrakcyjne w przypadku obsługi wielu zadań?
Ponieważ tylko mały przedrostek jest specyficzny dla zadania, przechowujesz jeden mały plik na zadanie, zamiast duplikować cały model.
Jakiej sztuczki często używa się do stabilizacji treningu przedrostkowego?
Mały MLP generuje przedrostek podczas treningu stabilności, a następnie jest wyrzucany, pozostawiając jedynie wyuczone macierze przedrostków.