ΕπόμενοΕπόμενος οδηγός
Bayesian Deep Learning
Βασικές αρχές
ΟΔΗΓΟΣ Βασικών Αρχών
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
MAML learns an initialization that can adapt to a new task through a small number of gradient steps. Prototypical Networks form class prototypes in an embedding space and classify by distance. Reptile is a first-order algorithm that moves the initialization toward parameters learned on sampled tasks. Brown et al.’s GPT-3 paper evaluates in-context few-shot learning by placing demonstrations in the prompt without gradient updates. This is a behavioral analogy to fast adaptation, not a claim that GPT-3 was trained with the same meta-learning algorithm.
Splitting meta-training into tasks with support and query examples.
Using MAML’s task-specific inner loop to adapt an initialization.
Classifying examples by distances to Prototypical Network class centers.
Comparing Reptile’s first-order update with GPT-3’s in-context demonstrations, which use no gradient updates at inference.
Compare methods on held-out tasks, specifying support/query splits, adaptation steps and evaluation conditions. The cited papers support these algorithms and experiments, not broad product forecasts or claims about deployment in robotics, recommendation or drug discovery.
Δωρεάν ενημερωτικό δελτίο
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Meta-learning studies how model parameters or representations can adapt to new tasks from limited examples. MAML, Prototypical Networks and Reptile are distinct research methods; in-context learning is a related few-shot behavior evaluated in large language models, not the same training procedure.
Meta-η μάθηση εκπαιδεύει σε πολλές εργασίες, ώστε ένα μοντέλο να μπορεί να προσαρμοστεί γρήγορα σε μια νέα εργασία με λίγα μόνο παραδείγματα.
Κάθε εργασία παρέχει ένα μικρό σύνολο υποστήριξης για προσαρμογή και ένα σύνολο ερωτημάτων για την αξιολόγηση της προσαρμογής, που επαναλαμβάνεται σε πολλές εργασίες.
Το MAML βρίσκει τις αρχικές παραμέτρους που, μετά από λίγα βήματα κλίσης σε μια νέα εργασία, αποδίδουν υψηλή απόδοση.
Τα Πρωτοτυπικά Δίκτυα υπολογίζουν ένα πρωτότυπο (μέση ενσωμάτωση) ανά κλάση και εκχωρούν κάθε ερώτημα στο πλησιέστερο πρωτότυπο.
Ο εσωτερικός βρόχος εκτελεί προσαρμογή για συγκεκριμένη εργασία, ενώ ο εξωτερικός βρόχος ενημερώνει τις παραμέτρους για καλύτερη προσαρμοστικότητα συνολικά.
Συνέχισε να μαθαίνεις
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα
ΕπόμενοΕπόμενος οδηγός
Bayesian Deep Learning
Βασικές αρχές