ΕπόμενοΕπόμενος οδηγός
Δέντρο των Σκέψεων
Γλώσσα AI
Τεχνικός ΟΔΗΓΟΣ
Το Tree-of-Thoughts επιτρέπει σε ένα μοντέλο να εξερευνά πολλές συλλογιστικές διαδρομές παράλληλα, όπως κλαδιά δέντρου, αντί να δεσμεύεται σε μία γραμμή σκέψης.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
Εισήχθη από τους Yao et al. το 2023, το Tree-of-Thoughts (ToT) γενικεύει την προτροπή αλυσίδας σκέψεων. Όπου η αλυσίδα της σκέψης παράγει μια ενιαία γραμμική ακολουθία συλλογιστικών βημάτων, το ToT δομεί το πρόβλημα ως δέντρο: κάθε κόμβος είναι μια μερική λύση (μια «σκέψη») και το μοντέλο δημιουργεί πολλές υποψήφιες επόμενες σκέψεις από κάθε κόμβο. Ένα ξεχωριστό βήμα αξιολόγησης βαθμολογεί πόσο πολλά υποσχόμενος είναι κάθε κλάδος και ένας αλγόριθμος αναζήτησης, όπως η αναζήτηση κατά πλάτος ή κατά βάθος, αποφασίζει ποιους κλάδους θα επεκτείνει και ποιους θα κλαδέψει. Αυτό επιτρέπει στο μοντέλο να εξερευνήσει σκόπιμα, να κοιτάξει μπροστά μερικά βήματα και να κάνει πίσω όταν μια διαδρομή δεν φαίνεται ελπιδοφόρα. Το ToT έλαμψε σε εργασίες που νικούν την άπληστη συλλογιστική μιας διαδρομής, με πιο διάσημο το Game of 24, όπου το GPT-4 με αλυσίδα σκέψης έλυνε περίπου το 4% των γρίφων, αλλά το ToT ώθησε την επιτυχία σε περίπου 74%.
Επίλυση του Παιχνιδιού του 24 με διακλάδωση του οποίου δύο αριθμοί θα συνδυαστούν πρώτα και κλαδεύοντας αριθμητικά μονοπάτια που δεν μπορούν να φτάσουν το 24.
Δημιουργική γραφή με συνεκτικό σχέδιο, όπου το μοντέλο σχεδιάζει πολλά περιγράμματα πλοκής, τα αξιολογεί και επεκτείνει τα πιο δυνατά πριν γράψει πεζογραφία.
Παζλ περιορισμού όπως τα μίνι σταυρόλεξα, όπου κάθε γεμάτη λέξη είναι μια σκέψη και τα ασυμβίβαστα κλαδιά εγκαταλείπονται.
Προβλήματα μαθηματικών ή προγραμματισμού πολλαπλών βημάτων όπου το μοντέλο διερευνά εναλλακτικά ενδιάμεσα βήματα και οπισθοδρομήσεις από εκείνα που παραβιάζουν περιορισμούς.
Το Tree-of-Thoughts επηρεάζει τον τρόπο με τον οποίο ξοδεύεται ο υπολογισμός του χρόνου συμπερασμάτων: αντί για ένα μεγάλο πέρασμα προς τα εμπρός, τα συστήματα αναζητούν όλο και περισσότερο μονοπάτια συλλογισμού και επιλέγουν τα καλύτερα. Η μελλοντική εργασία στοχεύει στο να μάθει πότε η διακλάδωση αξίζει το υψηλό συμβολικό κόστος της, να χρησιμοποιήσει εκπαιδευμένες συναρτήσεις αξίας αντί για αυτοαξιολόγηση βασισμένη σε άμεσες οδηγίες και να αναδιπλώσει την αναζήτηση δέντρων σε μοντέλα συλλογισμού, ώστε η συζήτηση να είναι πιο αποτελεσματική. Αναμένετε στενότερη ενσωμάτωση με εργαλεία και επαληθευτές, ώστε η αξιολόγηση κλάδου να βασίζεται στην πραγματική ανατροφοδότηση και όχι στην εικασία του μοντέλου.
Δωρεάν ενημερωτικό δελτίο
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Το Tree-of-Thoughts επιτρέπει σε ένα μοντέλο να εξερευνά πολλές συλλογιστικές διαδρομές παράλληλα, όπως κλαδιά δέντρου, αντί να δεσμεύεται σε μία γραμμή σκέψης. Μπορεί να κοιτάξει μπροστά, να αξιολογήσει μερικές λύσεις και να υποχωρήσει από αδιέξοδα.
Το Chain-of-tought παράγει μια ενιαία γραμμική ακολουθία, ενώ το Tree-of-Thoughts διακλαδίζεται σε πολλά υποψήφια μονοπάτια που μπορούν να αξιολογηθούν και να κλαδευτούν.
Κάθε κόμβος είναι μια μερική λύση (μια σκέψη) και το μοντέλο επεκτείνει αρκετές υποψήφιες επόμενες σκέψεις από κάθε κόμβο.
Ο αξιολογητής, συχνά το ίδιο LLM, βαθμολογεί ή ψηφίζει σε επιμέρους καταστάσεις (π.χ. βέβαιο/ίσως/αδύνατο), ώστε η αναζήτηση να μπορεί να επικεντρωθεί σε υποσχόμενους κλάδους.
Το GPT-4 με την αλυσίδα της σκέψης έλυσε περίπου το 4% των παζλ του Game of 24, ενώ το Tree-of-Thoughts έφτασε περίπου το 74%.
Το ToT συνδυάζει τη δημιουργία και την αξιολόγηση σκέψης με κλασικές διαδικασίες αναζήτησης όπως BFS, DFS ή αναζήτηση δέσμης για να αποφασίσει ποιους κλάδους θα επεκτείνει.
Συνέχισε να μαθαίνεις
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα
ΕπόμενοΕπόμενος οδηγός
Δέντρο των Σκέψεων
Γλώσσα AI