ΕπόμενοΕπόμενος οδηγός
Αντανακλαστικοί και Αυτοδιορθωτικοί Παράγοντες
Εφαρμογές
Τεχνικός ΟΔΗΓΟΣ
Αυτο-στοχασμός σε βρόχους πράκτορα
Ο αυτοστοχασμός επιτρέπει σε έναν πράκτορα τεχνητής νοημοσύνης να ασκεί κριτική στα δικά του αποτελέσματα και να ενεργεί στη μέση της εργασίας και, στη συνέχεια, να αναθεωρεί βάσει αυτής της κριτικής.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
Σε αυτήν τη σελίδα2 λεπτά ανάγνωση
Επισκόπηση
Μετατρέπει έναν μαντευτή μιας βολής σε ένα σύστημα που πιάνει και διορθώνει τα δικά του λάθη.
Βαθιά κατάδυση
Σε έναν βρόχο πράκτορα, ένα μοντέλο γλώσσας αναλαμβάνει ενέργειες (κλήσεις εργαλείων, σύνταξη κώδικα, απάντηση), παρατηρεί τα αποτελέσματα και αποφασίζει τι θα κάνει στη συνέχεια. Ο αυτοστοχασμός προσθέτει ένα σκόπιμο βήμα όπου το μοντέλο αξιολογεί την πρόσφατη εργασία του πριν συνεχίσει. Πλαίσια όπως το Reflexion (2023) το καθιστούν συγκεκριμένο: μετά από μια αποτυχημένη προσπάθεια, ο πράκτορας γράφει μια σύντομη λεκτική κριτική («Ξέχασα να χειριστώ την κενή περίπτωση λίστας») και την αποθηκεύει στη μνήμη, επομένως η επόμενη προσπάθεια εξαρτάται από αυτό το μάθημα. Το Self-Refine χρησιμοποιεί το ίδιο μοντέλο για να δημιουργήσει σχόλια και στη συνέχεια να ξαναγράψει την απάντησή του επαναληπτικά. Ο προβληματισμός μπορεί να προέλθει από τη σύγκριση της παραγωγής με έναν στόχο, τον έλεγχο μηνυμάτων σφάλματος ή την εκτέλεση δοκιμών. The payoff is higher reliability on multi-step tasks like coding, web navigation, and math, where a single pass often fails but a critique-and-retry loop succeeds.
Υλοποίηση σε πραγματικό κόσμο
Ένας παράγοντας κωδικοποίησης εκτελεί μια δοκιμή μονάδας που αποτυγχάνει, διαβάζει το traceback, γράφει μια αντανάκλαση σημειώνοντας το σφάλμα off-by-one και ξαναγράφει τη συνάρτηση στην επόμενη επανάληψη βρόχου.
Ένας πράκτορας περιήγησης ιστού που έκανε κλικ σε λάθος σύνδεσμο εμφανίζεται στη σελίδα στην οποία προσγειώθηκε, αναγνωρίζει την αναντιστοιχία με τον στόχο του και κάνει πίσω για να δοκιμάσει έναν διαφορετικό σύνδεσμο.
Ένας βοηθός ερευνητής συντάσσει μια απάντηση, την επικρίνει για μη υποστηριζόμενους ισχυρισμούς και την αναθεωρεί για να προσθέσει αναφορές ή να αντισταθμίσει αβέβαιες δηλώσεις πριν την επιστρέψει.
Ένας πράκτορας επίλυσης μαθηματικών ελέγχει την τελική του απάντηση σε σχέση με τους περιορισμούς του προβλήματος, παρατηρεί μια αναντιστοιχία μονάδων και επεξεργάζεται ξανά τον υπολογισμό αντί να υποβάλλει το ελαττωματικό αποτέλεσμα.
The Future of Self-Reflection σε Agent Loops
Αναμένετε ότι η αντανάκλαση θα γίνει ένας ενσωματωμένος πρωτόγονος παράγοντας και όχι ένα τέχνασμα προτροπής, με μοντέλα εκπαιδευμένα να γνωρίζουν πότε η αντανάκλαση αξίζει τα επιπλέον μάρκες και πότε απλώς καίει τον υπολογισμό. Τα μοντέλα επαληθευτών και τα σχόλια εκτέλεσης θα στηρίζουν όλο και περισσότερο την αυτοκριτική, έτσι ώστε οι πράκτορες να σταματήσουν να έχουν παραισθήσεις ότι οι λάθος απαντήσεις είναι σωστές. Η έρευνα στοχεύει επίσης στη λειτουργία αποτυχίας όπου τα μοντέλα επιβεβαιώνουν με σιγουριά την κακή δουλειά, πιέζοντας προς βαθμονομημένη, βασισμένη σε στοιχεία προβληματισμό και μαθημένα κριτήρια διακοπής για τον βρόχο.
Κάνοντάς το στην πράξη
Γιατί έχει σημασία
- Κόστος και προϋπολογισμός. Οι αποφάσεις για την αρχιτεκτονική καθορίζουν την απόδοση και το λειτουργικό κόστος για χρόνια.
- Σαφέστερες αποφάσεις. Η τεχνική εκπαίδευση βοηθά τις ομάδες να επιλέξουν τη σωστή στοίβα, όχι μόνο τη νεότερη.
- Ελεγχος ποιότητας. Οι καλύτερες επιλογές μηχανικής μειώνουν τα περιστατικά αξιοπιστίας στην παραγωγή.
Προσέξτε
- Η βελτιστοποίηση ενός σημείου αναφοράς μπορεί να κρύψει ευρύτερες αδυναμίες του συστήματος.
- Το κόστος υποδομής και συντήρησης συχνά υποτιμάται.
- Τα κενά ασφάλειας και παρατηρητικότητας μπορούν να αυξηθούν καθώς τα συστήματα γίνονται πιο πολύπλοκα.
Επόμενα βήματα
- Καθορίστε τους στόχους καθυστέρησης, ποιότητας και κόστους πριν από την εφαρμογή.
- Σημείο αναφοράς υπό ρεαλιστικές συνθήκες φορτίου και δεδομένων.
- Παρακολούθηση οργάνου για σφάλματα, μετατόπιση και επιπτώσεις από τον χρήστη.
- Προετοιμάστε διαδρομές επαναφοράς και απόκρισης συμβάντος πριν την κλιμάκωση.
Συνεχίστε την εξερεύνηση
Δωρεάν ενημερωτικό δελτίο
Λάβετε την καθημερινή ενημέρωση AI
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Take the Self-Reflection in Agent Loops quiz
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Συχνές ερωτήσεις
Τι είναι ο αυτοστοχασμός στο Agent Loops;
Ο αυτοστοχασμός επιτρέπει σε έναν πράκτορα τεχνητής νοημοσύνης να ασκεί κριτική στα δικά του αποτελέσματα και να ενεργεί στη μέση της εργασίας και, στη συνέχεια, να αναθεωρεί βάσει αυτής της κριτικής. Μετατρέπει έναν εικαστικό μιας βολής σε ένα σύστημα που πιάνει και διορθώνει τα δικά του λάθη.
Τι προσθέτει ο αυτοστοχασμός σε έναν τυπικό βρόχο πράκτορα;
Ο αυτοστοχασμός εισάγει ένα βήμα αξιολόγησης στο οποίο ο πράκτορας κριτικάρει τις πρόσφατες ενέργειες ή τα αποτελέσματά του και χρησιμοποιεί αυτή την κριτική για να καθοδηγήσει την επόμενη κίνησή του.
Στο πλαίσιο Reflexion, πού αποθηκεύονται οι αυτοκριτικές του μοντέλου;
Το Reflexion διατηρεί τη λεκτική αυτοκριτική σε ένα επεισοδιακό buffer μνήμης και τις τροφοδοτεί στο πλαίσιο σε μεταγενέστερες δοκιμές, επομένως η μάθηση είναι εντός πλαισίου και όχι μέσω ενημερώσεων βάρους.
Ποιο σήμα ανάδρασης για ανάκλαση τείνει να είναι πιο αξιόπιστο;
Τα γειωμένα εξωτερικά σήματα, όπως οι αποτυχημένες δοκιμές ή τα σφάλματα χρόνου εκτέλεσης, δίνουν συγκεκριμένη, αξιόπιστη ανατροφοδότηση, ενώ η κριτική που δημιουργείται από μόνος του μπορεί να είναι λανθασμένη.
Τι είναι ένας γνωστός τρόπος αποτυχίας αυτοαναστοχασμού;
Χωρίς θεμελιωμένη ανατροφοδότηση, τα μοντέλα μερικές φορές εξετάζουν ελαττωματικές εργασίες και καταλήγουν εσφαλμένα ότι είναι εντάξει, επομένως η εξωτερική επαλήθευση είναι σημαντική.
Πώς παράγει συνήθως σχόλια η προσέγγιση Αυτοβελτίωση;
Το Self-Refine έχει ένα μεμονωμένο μοντέλο να παράγει ανατροφοδότηση στο πρόχειρό του και στη συνέχεια να αναθεωρεί επαναληπτικά την έξοδο χρησιμοποιώντας αυτήν την ανάδραση.
Συνέχισε να μαθαίνεις
Σχετικοί οδηγοί
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα