Mai departeUrmătorul ghid
Învățare profundă bayesiană
Fundamentele
GHID de fundamente
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples.
Ascultă acest ghidNarativ AI · ~2 min
MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
MAML learns an initialization that can adapt to a new task through a small number of gradient steps. Prototypical Networks form class prototypes in an embedding space and classify by distance. Reptile is a first-order algorithm that moves the initialization toward parameters learned on sampled tasks. Brown et al.’s GPT-3 paper evaluates in-context few-shot learning by placing demonstrations in the prompt without gradient updates. This is a behavioral analogy to fast adaptation, not a claim that GPT-3 was trained with the same meta-learning algorithm.
Splitting meta-training into tasks with support and query examples.
Using MAML’s task-specific inner loop to adapt an initialization.
Classifying examples by distances to Prototypical Network class centers.
Comparing Reptile’s first-order update with GPT-3’s in-context demonstrations, which use no gradient updates at inference.
Compare methods on held-out tasks, specifying support/query splits, adaptation steps and evaluation conditions. The cited papers support these algorithms and experiments, not broad product forecasts or claims about deployment in robotics, recommendation or drug discovery.
Buletin gratuit
Trei povești AI verificate în fiecare dimineață de zi lucrătoare, scrise în engleză simplă. Gratuit pentru totdeauna, fără reclame.
Un e-mail în fiecare zi lucrătoare. Dezabonare cu un singur clic. Nu vindem niciodată și nu împărtășim adresa ta.
Testează-te
Feedback instantaneu la fiecare răspuns și un certificat partajabil cu un ID verificabil după ce parcurgi un curs.
Susține educația AI gratuită. AI Understanding este o organizație nonprofit 501(c)(3) — fără reclame, fără barieră de plată, pentru totdeauna. Fă o donație
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples. MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
Meta-învățarea antrenează multe sarcini, astfel încât un model se poate adapta rapid la o nouă sarcină cu doar câteva exemple.
Fiecare sarcină oferă un mic set de suport pentru adaptare și un set de interogări pentru a evalua adaptarea, repetat în mai multe sarcini.
MAML găsește parametri inițiali care, după doar câțiva pași de gradient pe o nouă sarcină, produc performanțe puternice.
Rețelele prototipice calculează un prototip (încorporare medie) per clasă și atribuie fiecare interogare celui mai apropiat prototip.
Bucla interioară efectuează adaptarea specifică sarcinii, în timp ce bucla exterioară actualizează parametrii pentru o mai bună adaptabilitate generală.
Continuați să învățați
Mai multe ghiduri alese pentru acest subiect
Mai departeUrmătorul ghid
Învățare profundă bayesiană
Fundamentele