SeterusnyaPanduan seterusnya
Pembelajaran Mendalam Bayesian
Asas
PANDUAN Asas
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples.
Dengar panduan iniAI-diceritakan · ~2 min
MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
MAML learns an initialization that can adapt to a new task through a small number of gradient steps. Prototypical Networks form class prototypes in an embedding space and classify by distance. Reptile is a first-order algorithm that moves the initialization toward parameters learned on sampled tasks. Brown et al.’s GPT-3 paper evaluates in-context few-shot learning by placing demonstrations in the prompt without gradient updates. This is a behavioral analogy to fast adaptation, not a claim that GPT-3 was trained with the same meta-learning algorithm.
Splitting meta-training into tasks with support and query examples.
Using MAML’s task-specific inner loop to adapt an initialization.
Classifying examples by distances to Prototypical Network class centers.
Comparing Reptile’s first-order update with GPT-3’s in-context demonstrations, which use no gradient updates at inference.
Compare methods on held-out tasks, specifying support/query splits, adaptation steps and evaluation conditions. The cited papers support these algorithms and experiments, not broad product forecasts or claims about deployment in robotics, recommendation or drug discovery.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples. MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
Meta-belajar merentasi banyak tugasan supaya model boleh menyesuaikan diri dengan pantas kepada tugasan baharu dengan hanya beberapa contoh.
Setiap tugasan menyediakan set sokongan kecil untuk disesuaikan dan set pertanyaan untuk menilai penyesuaian, berulang merentasi banyak tugas.
MAML menemui parameter awal yang, selepas hanya beberapa langkah kecerunan pada tugas baharu, menghasilkan prestasi yang kukuh.
Rangkaian Prototaip mengira prototaip (pembenaman min) bagi setiap kelas dan menetapkan setiap pertanyaan kepada prototaip terdekat.
Gelung dalam melakukan penyesuaian khusus tugas, manakala gelung luar mengemas kini parameter untuk kebolehsuaian yang lebih baik secara keseluruhan.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Pembelajaran Mendalam Bayesian
Asas