Обучение в контекст
Обучението в контекст е изненадващата способност на големите езикови модели да избират нова задача от няколко примера, поставени в подканата, без каквото и да е преквалификация.
Преглед
It is the reason you can 'teach' a model on the fly just by showing it what you want.
Дълбоко гмуркане
Обикновено обучението на невронна мрежа на нова задача означава актуализиране на нейните тегла чрез обучение. Обучението в контекст е различно: пишете няколко примера директно в подканата („контекста“), а моделът извежда модела и го прилага към нов вход. Нищо вътре в модела не се променя; примерите просто насочват прогнозата за следващия токен. Ще чуете „нулев удар“ (само за инструкции), „един удар“ (един пример) и „няколко удара“ (няколко примера). Това поведение беше популяризирано от GPT-3 през 2020 г. и се оказа нововъзникваща способност: малките модели не могат да го направят, но надхвърляйки приблизително 100-милиардния параметър, точността на подканите с няколко изстрела рязко се покачва. Моделът ефективно се научи да разпознава и продължава модели по време на предварителното обучение, така че може да използва повторно това умение по време на извод.
Техническа информация
Изследванията за интерпретация проследиха голяма част от тази способност до „индукционни глави“ — вериги на вниманието, които се появяват по време на обучение и извършват размито съпоставяне на префикси: те сканират обратно къде се е появил подобен токен, след което копират това, което го последва. Така че, когато вашата подкана показва „ябълка -> плод, морков -> зеленчук“, моделът съответства на структурата и предвижда правилния етикет за следващия елемент. Най-важното е, че няма градиенти и тегла не се актуализират при извод. Примерите просто променят активациите, които захранват разпределението на вероятността за следващия токен.
Стратегическо въздействие
Speed and scale
Езиковите работни процеси могат да се движат по-бързо, без да се жертва последователността.
Access and reach
Той разширява достъпа между езици и стилове на комуникация.
Clearer decisions
Екипите могат да отделят повече време за преценка, докато автоматизацията се справя с повторението.
Бъдещето на обучението в контекст
Разширяващите се контекстни прозорци (сега стотици хиляди токени) тласкат обучението в контекста към режими на „много изстрели“, където десетки или стотици примери могат да съперничат на фина настройка за някои задачи, без разходи за обучение. Очаквайте по-тясна интеграция с извличане, така че съответните примери да се извличат автоматично и по-добра теория за това, когато обучението в контекст се провали или се разсейва. Това ще остане бързият и евтин начин за адаптиране на модел, допълващ, а не заместващ, фина настройка за стабилни задачи с голям обем.
Внедряване в реалния свят
Дайте на чатбот три примерни билета за поддръжка и техните категории, след което го накарайте да класифицира нов билет по същия начин
Показване на модел две преди/след двойки разхвърлян текст, преформатиран в чист JSON, така че да преобразува останалите
Поставете няколко примерни описания на продукта в тона на вашата марка, така че новите да отговарят на стила
Демонстрацията на сложна математическа задача с думи работи стъпка по стъпка, така че моделът решава подобни проблеми със същия формат на разсъждение
Рискове и предпазни огради
Халюцинираните факти могат тихо да влязат в отчети, потоци за поддръжка или резултати от изследвания.
Бързата чувствителност може да създаде противоречиви резултати при подобни заявки.
Чувствителните текстови данни могат да бъдат разкрити, ако контролите за достъп са слаби.
Пътна карта за изпълнение
Определете изходен формат, тон и стандарти за качество преди внедряване.
Наземни отговори с доверени източници винаги, когато точността има значение.
Поддържайте контролна точка за човешки преглед за изходи с високи залози.
Проследявайте моделите на неуспехи и редовно обучавайте подкани или работни потоци.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the In-Context Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Контекстни прозорци
Frequently asked questions
What is In-Context Learning?
Обучението в контекст е изненадващата способност на големите езикови модели да избират нова задача от няколко примера, поставени в подканата, без каквото и да е преквалификация. Това е причината да можете да „обучите“ модел в движение, просто като му покажете какво искате.
Какво фундаментално се променя в модела по време на обучение в контекст?
Обучението в контекст се случва изцяло при умозаключение. Примерите в подканата оформят активирането на модела и предвижданията за следващ токен, но не се актуализират тегла.
Защо ученето в контекст се описва като „възникваща“ способност?
Способността е слаба или липсва при малки модели и се изкачва стръмно, след като моделите достигнат много голям мащаб, поради което се нарича възникваща.
Кой вътрешен механизъм е най-свързан с обучението в контекст в трансформаторите?
Работата по интерпретацията идентифицира индукционните глави - вериги за внимание, които откриват къде се е появил подобен токен и копират това, което следва - като основен двигател на обучението в контекст.