СледваСледващо ръководство
Байесово дълбоко обучение
Основи
РЪКОВОДСТВО по основи
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples.
Чуйте това ръководствоAI-разказан · ~2 min
MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
MAML learns an initialization that can adapt to a new task through a small number of gradient steps. Prototypical Networks form class prototypes in an embedding space and classify by distance. Reptile is a first-order algorithm that moves the initialization toward parameters learned on sampled tasks. Brown et al.’s GPT-3 paper evaluates in-context few-shot learning by placing demonstrations in the prompt without gradient updates. This is a behavioral analogy to fast adaptation, not a claim that GPT-3 was trained with the same meta-learning algorithm.
Splitting meta-training into tasks with support and query examples.
Using MAML’s task-specific inner loop to adapt an initialization.
Classifying examples by distances to Prototypical Network class centers.
Comparing Reptile’s first-order update with GPT-3’s in-context demonstrations, which use no gradient updates at inference.
Compare methods on held-out tasks, specifying support/query splits, adaptation steps and evaluation conditions. The cited papers support these algorithms and experiments, not broad product forecasts or claims about deployment in robotics, recommendation or drug discovery.
Безплатен бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples. MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
Meta-обучението преминава през много задачи, така че моделът може да се адаптира бързо към нова задача само с няколко примера.
Всяка задача предоставя малък набор от поддръжка за адаптиране и набор от заявки за оценка на адаптирането, повтарящи се в много задачи.
MAML намира първоначални параметри, които само след няколко градиентни стъпки на нова задача дават силна производителност.
Prototypical Networks изчисляват прототип (средно вграждане) за клас и присвояват всяка заявка на най-близкия прототип.
Вътрешният цикъл извършва специфична за задачата адаптация, докато външният цикъл актуализира параметрите за по-добра адаптивност като цяло.
Продължавай да учиш
Още ръководства, избрани за тази тема
СледваСледващо ръководство
Байесово дълбоко обучение
Основи