Τι είναι Ενισχυτική μάθηση από την ανθρώπινη ανατροφοδότηση (RLHF)?

Η εκπαίδευση μέσω ανταμοιβής σηματοδοτεί όπου ένας πράκτορας μαθαίνει ενέργειες που μεγιστοποιούν τη μακροπρόθεσμη απόδοση.

Ένα μοντέλο που βαθμολογεί τις εξόδους με βάση τα σήματα προτίμησης, που χρησιμοποιείται συχνά σε αγωγούς RLHF.

Μια μέθοδος εκπαίδευσης που προσαρμόζει τα μοντέλα απευθείας σε ζεύγη προτιμήσεων χωρίς να χρειάζεται ξεχωριστό μοντέλο ανταμοιβής.

Προσεγγίσεις εκπαίδευσης που επιτρέπουν σε ένα μοντέλο να συνεχίσει να μαθαίνει από νέα δεδομένα χωρίς να ξεχνά την προηγούμενη γνώση.

Εκμάθηση ή προσαρμογή συμπεριφοράς μόνο από ένα μικρό αριθμό παραδειγμάτων.

Υποβάθμιση της απόδοσης με την πάροδο του χρόνου καθώς οι πραγματικές συνθήκες αποκλίνουν από τις υποθέσεις εκπαίδευσης.