Επιστροφή στις Ειδήσεις
ΚαινοτομίαAI Understanding ενημέρωση

Η δρομολόγηση με κλειστή μνήμη στοχεύει στη μείωση του κόστους των συστημάτων LLM πολλαπλών παραγόντων

Ένα έγγραφο που υποβλήθηκε πρόσφατα προτείνει τη διατήρηση μόνο χρήσιμων συλλογιστικών βημάτων όταν συνεργάζονται πολλαπλοί πράκτορες γλωσσικών μοντέλων. Η περίληψή του αναφέρει υψηλότερη μέση ακρίβεια αναφοράς και μείωση 31,9% στο κόστος συμπερασμάτων HumanEval σε σύγκριση με την ισχυρότερη βασική γραμμή.

5 min readRead the primary source
Source-page capture accompanying Gated-memory routing aims to reduce the cost of multi-agent LLM systems
Έγγραφο κύριας πηγήςΗ πηγή καταγράφηκε
Εκδότης
arxiv.org
Σύνδεσμος πηγής
arxiv.orghttps://arxiv.org/abs/2609.00237
Τύπος πηγής
Κύριο έγγραφο — μια επίσημη ανακοίνωση, χαρτί, αρχειοθέτηση ή σελίδα πρώτου μέρους που διαβάζουμε απευθείας.
ΠλαίσιοΚαταλάβετε αυτό σε 60 δευτερόλεπτα

Ξεκινήστε εδώ

Βασικοί όροι

Μεγάλο μοντέλο γλώσσας (LLM)
Ένα μοντέλο γλώσσας εκπαιδευμένο σε τεράστια σώματα κειμένου για τη δημιουργία και ανάλυση κειμένου.
Μνήμη (μνήμη πράκτορα)
Το αποθηκευμένο πλαίσιο που χρησιμοποιεί ένας πράκτορας τεχνητής νοημοσύνης σε βήματα ή περιόδους σύνδεσης για να βελτιώσει τη συνέχεια.
Γενίκευση
Πόσο καλά αποδίδει ένα μοντέλο σε νέα, αόρατα δεδομένα εκτός του σετ εκπαίδευσης.
Δοκιμάστε τον εαυτό σαςΚουίζ για πράκτορες AI

Τι έγινε

Οι ερευνητές πρότειναν το Gated-Memory Routing, ένα σύστημα που μαθαίνει ποια ενδιάμεσα βήματα συλλογισμού πρέπει να διατηρεί και να ανακτά κατά την εκτέλεση του LLM πολλαπλών παραγόντων. Η περίληψη της εργασίας αναφέρει την καλύτερη μέση ακρίβεια σε πέντε σημεία αναφοράς συλλογισμού και δημιουργίας κώδικα, υπερβαίνοντας την ισχυρότερη βασική γραμμή κατά 2,44 μονάδες, ενώ μειώνει το κόστος συμπερασμάτων HumanEval κατά 31,9% σε σχέση με αυτήν τη γραμμή βάσης.

Το έγγραφο, που υποβλήθηκε στο arXiv στις 31 Αυγούστου 2026, αναφέρεται στην ενορχήστρωση σε συστήματα όπου πολλοί πράκτορες μοντέλων μεγάλων γλωσσών συνεργάζονται σε μια εργασία. Οι συντάκτες του υποστηρίζουν ότι η δρομολόγηση που βασίζεται μόνο στο αρχικό ερώτημα δεν μπορεί να ανταποκριθεί επαρκώς σε ενδιάμεση πρόοδο ή σφάλματα. Ένα σύστημα που αντ' αυτού μεταβιβάζει το πλήρες ιστορικό εκτέλεσης σε κάθε μεταγενέστερη απόφαση έχει περισσότερο πλαίσιο, αλλά επίσης αναγκάζει το σύστημα να επεξεργάζεται επανειλημμένα πλεονάζοντα ή χαμηλής χρησιμότητας βήματα. Το έγγραφο περιγράφει αυτή τη συσσώρευση ως υπερφόρτωση του ιστορικού εκτέλεσης, συνδέοντάς τη άμεσα με υψηλότερο κόστος συμπερασμάτων. Ως εκ τούτου, το κεντρικό πρόβλημα παρουσιάζεται ως ερώτημα ποιες πληροφορίες θα πρέπει να παραμένουν διαθέσιμες καθώς προχωρά η συνεργασία. Το πλαίσιο της περίληψης συνδέει την απόφαση δρομολόγησης τόσο με την ποιότητα των μεταγενέστερων αποφάσεων όσο και με τον υπολογιστικό φόρτο του επανειλημμένου χειρισμού προηγούμενων βημάτων.

Η προτεινόμενη ρύθμιση δρομολόγησης περιγράφεται με όρους επιλεκτικής διατήρησης και ανάκτησης κατά την εκτέλεση. Σκοπός του είναι να διατηρήσει χρήσιμο ενδιάμεσο συλλογισμό, περιορίζοντας ταυτόχρονα τον όγκο του ιστορικού που πρέπει να επεξεργαστούν οι μετέπειτα πράκτορες. Αυτή η περιγραφή διατηρεί την εστίαση στην εσωτερική ροή πληροφοριών του συστήματος: τα βήματα συλλογιστικής αξιολογούνται ως προς τη χρησιμότητα, οι σχετικές πληροφορίες διατίθενται αργότερα και το περιττό υλικό δεν αντιμετωπίζεται ως εξίσου σημαντικό. Κατά συνέπεια, ο λογαριασμός της εφημερίδας συνδέει την επιλογή μνήμης με την ευρύτερη διαδικασία ενορχήστρωσης, αντί να παρουσιάζει τη μνήμη ως ξεχωριστή δυνατότητα αποθήκευσης. Η μέθοδος έχει σκοπό να κάνει την εξελισσόμενη κατάσταση της συνεργασίας πιο συμπαγή και εξαρτώμενη από την εργασία.

Το προκύπτον σύστημα προορίζεται να αφήσει τη συνεργασία να αλλάξει καθώς εξελίσσεται η εργασία. Οι αποφάσεις σχετικά με τις διατηρούμενες πληροφορίες, το ανακτηθέν πλαίσιο, τον επόμενο ρόλο, τη ραχοκοκαλιά και εάν η εκτέλεση πρέπει να συνεχιστεί περιγράφονται ως συνδεδεμένα μέρη της διαδικασίας δρομολόγησης. Αυτό δίνει στο πλαίσιο έναν μηχανισμό για να ανταποκρίνεται σε ενδιάμεση πρόοδο αντί να βασίζεται σε μια σταθερή απόφαση δρομολόγησης που λαμβάνεται μόνο από το αρχικό ερώτημα. Η αναφερόμενη συνεισφορά είναι επομένως ένας μαθημένος τρόπος διαχείρισης του ιστορικού εκτέλεσης στο πλαίσιο της εργασίας LLM πολλαπλών πρακτόρων, με την αφηρημένη σύνδεση αυτής της διαχείρισης με τη δηλωμένη ακρίβεια και τις συγκρίσεις συνεπαγωγών-κόστους.

Στοιχεία πηγής: arxiv.org ↗

Γιατί έχει σημασία

Τα συστήματα LLM πολλαπλών πρακτόρων μπορούν να βελτιώσουν την απόδοση σύνθετων εργασιών συντονίζοντας πολλούς ρόλους ή μοντέλα, αλλά η μεταφορά ενός ολόκληρου ιστορικού εκτέλεσης σε κάθε μεταγενέστερη απόφαση μπορεί να αυξήσει τον υπολογισμό και το κόστος. Η προτεινόμενη προσέγγιση στοχεύει σε αυτό το συγκεκριμένο σημείο συμφόρησης διατηρώντας μια μικρότερη κατάσταση εκμάθησης. Εάν τα αναφερόμενα αποτελέσματα διατηρούνται πέρα ​​από τις αναφερόμενες αξιολογήσεις, η μέθοδος θα μπορούσε να κάνει τις συνεργατικές ροές εργασίας LLM πιο οικονομικές χωρίς να θυσιάζεται η μετρούμενη ακρίβεια.

Η πρόταση αντικατοπτρίζει επίσης ένα ευρύτερο ερώτημα σχεδιασμού για το agent AI: πόση δραστηριότητα του παρελθόντος πρέπει να διατηρήσει ένα σύστημα προτού το πρόσθετο πλαίσιο γίνει αντιπαραγωγικό; Η απάντηση της περίληψης είναι μια κατάσταση που εξαρτάται από την εργασία και όχι ένα σταθερό παράθυρο ή μια πλήρη μεταγραφή. Αυτό το πλαίσιο έχει σημασία επειδή το μέγεθος του διατηρούμενου περιβάλλοντος γίνεται μέρος της συλλογιστικής συμπεριφοράς του συστήματος, όχι απλώς μια λεπτομέρεια υλοποίησης. Συνδέει επίσης τη διαχείριση των ενδιάμεσων βημάτων με το πρακτικό ερώτημα του πώς οι συνεργατικές ροές εργασίας LLM μπορούν να παραμείνουν οικονομικές καθώς η ιστορία τους μεγαλώνει.

Αυτό θα μπορούσε να είναι χρήσιμο όταν τα ιστορικά εκτέλεσης γίνονται μεγάλα ή περιέχουν πολλές ανεπιτυχείς προσπάθειες. Μια συμπαγής κατάσταση εκμάθησης μπορεί να παρέχει σε μεταγενέστερες αποφάσεις πρόσβαση σε πληροφορίες που κρίνονται σχετικές χωρίς να απαιτείται η μεταφορά της πλήρους μεταγραφής κάθε φορά. Το πιθανό όφελος που περιγράφεται από το έγγραφο συνδέεται επομένως με τη σχέση μεταξύ του διατηρούμενου πλαισίου και της επαναλαμβανόμενης επεξεργασίας. Η πρόταση δεν ισχυρίζεται ότι λιγότερο πλαίσιο είναι πάντα καλύτερο. περιγράφει έναν μηχανισμό για την επιλογή του τι θα παραμείνει διαθέσιμο για τα επόμενα στάδια της ίδιας εργασίας.

Ταυτόχρονα, η επιλεκτική μνήμη εισάγει τον δικό της τρόπο αποτυχίας: μια πύλη μπορεί να απορρίψει μια λεπτομέρεια που αργότερα αποδεικνύεται απαραίτητη ή να ανακτήσει πληροφορίες που είναι συμπαγείς αλλά παραπλανητικές. Η περίληψη αναφέρει συγκεντρωτικά αποτελέσματα συγκριτικής αξιολόγησης, αλλά δεν δείχνει πόσο συχνά συμβαίνουν τέτοια σφάλματα μνήμης. Αυτός ο περιορισμός αφήνει ένα σημαντικό μέρος του συμβιβασμού ανεπίλυτο, καθώς η μετρούμενη ακρίβεια από μόνη της δεν προσδιορίζει εάν τα επιτυχημένα αποτελέσματα εξαρτώνται από την αξιόπιστη διατήρηση σε όλη την πλήρη εκτέλεση. Η κατανόηση αυτού του συμβιβασμού θα βοηθούσε να καθοριστεί πότε η μαθημένη κατάσταση είναι πλεονέκτημα και πότε μπορεί να γίνει πηγή λάθους.

Interactive Mechanism

Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα

Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.

Thinking Budget (Test-Time Tokens):1,024 tokens
Complex Accuracy79%Math & Code Logic
Latency3.2sTime to first full output
Inference Cost$0.0092Per query estimated
Reasoning StyleStep VerificationInternal chain depth
Active Thinking Trace:
1Deconstruct user problem into formal constraints
2Propose candidate hypotheses & step-by-step calculation
3Self-correction: Backtrack and refute subtle edge cases
4Exhaustive consistency check & final output synthesis
Core takeaway: Test-time compute fundamentally changes AI economics. Instead of only scaling during pre-training, giving reasoning models more tokens at inference time allows them to systematically solve PhD-level STEM problems.
Διαδραστικός Έλεγχος Έννοιας+10 Points
AI Agents Quiz

An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?

Τι να παρακολουθήσετε στη συνέχεια

Η πηγή είναι μια περίληψη arXiv και δεν παρέχει τα ονόματα ή τα μεμονωμένα αποτελέσματα και των πέντε σημείων αναφοράς, τις διαμορφώσεις γραμμής βάσης, τη στατιστική παραλλαγή ή το κόστος των ίδιων των στοιχείων δρομολόγησης. Η περαιτέρω αξιολόγηση θα πρέπει να εξετάσει εάν τα κέρδη γενικεύονται σε εργασίες, μοντέλα και μεγαλύτερα ιστορικά εκτέλεσης και εάν ο κώδικας που κυκλοφόρησε υποστηρίζει την αναπαραγωγιμότητα. Το έγγραφο αναφέρεται ως αποδεκτό στο EMNLP 2026, αλλά η πηγή δεν καθορίζει την απόδοση ανάπτυξης ή παραγωγής σε πραγματικό κόσμο.

Η αναπαραγωγιμότητα και η γενίκευση παραμένουν ανοιχτά ερωτήματα. Η εγγραφή arXiv λέει ότι ο κώδικας είναι διαθέσιμος και ότι η εργασία έγινε αποδεκτή στο κύριο συνέδριο του EMNLP 2026, αλλά αυτές οι λεπτομέρειες δεν επαληθεύουν ανεξάρτητα τους ισχυρισμούς της περίληψης. Η διαθέσιμη πηγή επίσης δεν παρέχει τα υλικά υλοποίησης ή διευρυμένα αποτελέσματα που απαιτούνται για την άμεση αξιολόγηση της αναφερόμενης σύγκρισης. Ως αποτέλεσμα, τα επόμενα χρήσιμα στοιχεία αφορούν το εάν η αναφερόμενη μέθοδος και αξιολόγηση μπορούν να επιθεωρηθούν και να επαναληφθούν υπό τις συνθήκες που περιγράφονται.

Χρήσιμα στοιχεία παρακολούθησης θα περιλαμβάνουν την πρόσβαση σε κώδικα, μελέτες κατάλυσης για κάθε πύλη και τον ελεγκτή διακοπής λειτουργίας, αναλύσεις αστοχιών, δοκιμές σε μοντέλα που δεν εμφανίζονται και αξιολογήσεις εκτός των ρυθμίσεων αναφοράς. Αυτοί οι έλεγχοι θα διευκρινίσουν τη συμβολή κάθε στοιχείου και θα έδειχναν εάν η αναφερόμενη συμπεριφορά εξαρτάται από τον πλήρη συνδυασμό των επιλογών δρομολόγησης. Θα βοηθούσαν επίσης να διαχωριστούν οι βελτιώσεις που σχετίζονται με τη μαθημένη μνήμη από τις βελτιώσεις που σχετίζονται με τα άλλα μέρη του συστήματος. Η πηγή αυτή τη στιγμή αφήνει αυτές τις διακρίσεις απροσδιόριστες.

Η πηγή δεν παρέχει στοιχεία για την ανάπτυξη της παραγωγής, τον αντίκτυπο του χρήστη ή την απόδοση σε ζωντανές εφαρμογές πολλαπλών παραγόντων, επομένως αυτά τα αποτελέσματα δεν θα πρέπει να συνάγονται από τα αναφερόμενα πειράματα. Τα αναφερόμενα αποτελέσματα των σημείων αναφοράς και η λίστα αποδεκτών εγγράφων περιγράφουν τη διαθέσιμη εγγραφή, αλλά δεν καθορίζουν πώς συμπεριφέρεται η μέθοδος στις λειτουργικές ρυθμίσεις. Οποιαδήποτε αξιολόγηση πέραν αυτών των αποτελεσμάτων θα πρέπει επομένως να υπόκειται σε όρους έως ότου καταστούν διαθέσιμα περαιτέρω τεχνικές λεπτομέρειες, ευρύτερες αξιολογήσεις ή αποδεικτικά στοιχεία ανάπτυξης.

Σχετικοί οδηγοί και κουίζ

Πράκτορες AIΕπεξήγηση μοντέλων AIΜετασχηματιστέςΕκπαίδευση AIΔοκιμάστε τι γνωρίζετε — δοκιμάστε ένα δωρεάν κουίζ AIΑναζητήστε έναν όρο AI στο γλωσσάρι μαςΑκολουθήστε τον ιχνηλάτη έκδοσης μοντέλου AI
Βρήκατε αυτό χρήσιμο;