Όρος Γλωσσάρι AI

Τι είναι Απόσταξη Γνώσης;

Ορισμός

Εκπαίδευση ενός μικρότερου μοντέλου ώστε να μιμείται τα αποτελέσματα ενός μεγαλύτερου μοντέλου.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

ΑπόσταξηΣυμπίεση της γνώσης από ένα μεγάλο μοντέλο δασκάλου σε ένα μικρότερο μοντέλο μαθητή.Αποσταγμένο μοντέλοΈνα μικρότερο μοντέλο εκπαιδευμένο να μιμείται τη συμπεριφορά ενός μεγαλύτερου μοντέλου ενώ χρησιμοποιεί λιγότερους υπολογισμούς στο συμπέρασμα.Αποκοπή γνώσηςΤο τελευταίο χρονικό σημείο που αντικατοπτρίζεται στα δεδομένα εκπαίδευσης ενός μοντέλου.Συνεχής ΜάθησηΠροσεγγίσεις εκπαίδευσης που επιτρέπουν σε ένα μοντέλο να συνεχίσει να μαθαίνει από νέα δεδομένα χωρίς να ξεχνά την προηγούμενη γνώση.Εποπτευόμενη μάθησηΕκπαίδευση ενός μοντέλου με επισημασμένα παραδείγματα που αντιστοιχίζουν τις εισόδους σε γνωστές εξόδους.Συνταγματική ΑΙΜια προσέγγιση εκπαίδευσης και διαμόρφωσης συμπεριφοράς όπου τα αποτελέσματα του μοντέλου καθοδηγούνται από ένα σταθερό σύνολο γραπτών αρχών.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

AI Knowledge ManagementDINO Self-DistillationGraphRAG Knowledge GraphsDreamFusion and Score Distillation Sampling

Δείτε επίσης

Knowledge GraphJailbreakLabel SmoothingIntent ClassificationLatencyInstruction TuningLarge Language Model (LLM)Inference-Time Compute