A seguirPróximo guia
Aprendizado Profundo Bayesiano
Fundamentos
GUIA de fundamentos
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples.
Ouça este guiaNarrado por IA · ~2 min
MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
MAML learns an initialization that can adapt to a new task through a small number of gradient steps. Prototypical Networks form class prototypes in an embedding space and classify by distance. Reptile is a first-order algorithm that moves the initialization toward parameters learned on sampled tasks. Brown et al.’s GPT-3 paper evaluates in-context few-shot learning by placing demonstrations in the prompt without gradient updates. This is a behavioral analogy to fast adaptation, not a claim that GPT-3 was trained with the same meta-learning algorithm.
Splitting meta-training into tasks with support and query examples.
Using MAML’s task-specific inner loop to adapt an initialization.
Classifying examples by distances to Prototypical Network class centers.
Comparing Reptile’s first-order update with GPT-3’s in-context demonstrations, which use no gradient updates at inference.
Compare methods on held-out tasks, specifying support/query splits, adaptation steps and evaluation conditions. The cited papers support these algorithms and experiments, not broad product forecasts or claims about deployment in robotics, recommendation or drug discovery.
Boletim informativo gratuito
Três histórias verificadas de IA a cada manhã de dia útil, escritas em linguagem simples. Gratuito para sempre, sem anúncios.
Um e-mail a cada dia útil. Cancele a inscrição com um clique. Nunca vendemos ou compartilhamos seu endereço.
Teste você mesmo
Feedback instantâneo sobre cada resposta e um certificado compartilhável com um ID verificável assim que você concluir um curso.
Apoie a educação gratuita em IA. O AI Understanding é uma organização sem fins lucrativos 501(c)(3) — sem anúncios, sem paywall, nunca. Faça uma doação
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples. MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
O aprendizado Meta treina muitas tarefas para que um modelo possa se adaptar rapidamente a uma nova tarefa com apenas alguns exemplos.
Cada tarefa fornece um pequeno conjunto de suporte para adaptação e um conjunto de consultas para avaliar a adaptação, repetido em muitas tarefas.
O MAML encontra parâmetros iniciais que, após apenas algumas etapas de gradiente em uma nova tarefa, produzem um desempenho forte.
Redes prototípicas calculam um protótipo (incorporação média) por classe e atribuem cada consulta ao protótipo mais próximo.
O loop interno realiza a adaptação específica da tarefa, enquanto o loop externo atualiza os parâmetros para melhor adaptabilidade geral.
Continue aprendendo
Mais guias escolhidos para este tópico
A seguirPróximo guia
Aprendizado Profundo Bayesiano
Fundamentos