Τι έγινε
Μια νέα προεκτύπωση arXiv προτείνει την Αξιοπιστία Αποδείξεων-Κατάστασης (ESR), ένα επίπεδο αξιολόγησης για αγωγούς μοντέλων μεγάλων γλωσσών πολλαπλών σταδίων. Το ESR ρωτά εάν τα ενδιάμεσα στοιχεία παραμένουν πλήρη, θεμελιωμένα, εσωτερικά συνεπή και χρησιμοποιήσιμα για το επόμενο στάδιο, αντί να ελέγχει απλώς εάν η έξοδος ακολουθεί την αναμενόμενη μορφή.
Η εργασία αξιολογεί έναν αγωγό LLM πολλαπλών σταδίων υπό ελεγχόμενη υποβάθμιση. Συγκρίνει καθαρά στοιχεία με τρεις αλλοιωμένες συνθήκες: συμπιεσμένα στοιχεία με απώλειες, μερική εγκατάλειψη και θορυβώδη αντικρουόμενα στοιχεία. Ο αγωγός περιλαμβάνει στάδια απόφασης, ελέγχου και κλιμάκωσης και οι συγγραφείς αξιολογούν την εγκυρότητα του δομικού αναλυτή ξεχωριστά από το εάν τα στοιχεία παραμένουν κατάλληλα για την εκχωρημένη λειτουργία του σταδίου.
Οι συγγραφείς αναφέρουν 720 προγραμματισμένες και λογιστικές κλήσεις, από τις οποίες διατηρήθηκαν 713 απολυμανμένες σειρές εκτέλεσης. Στην αξιολόγηση χρησιμοποιήθηκαν GLM-5.2 και 60 απολυμανμένες θήκες βάσης. Σε εννέα αντιστοιχισμένες συγκρίσεις μεταξύ υποβαθμισμένων και καθαρών συνθηκών, κάθε εκτίμηση επιτυχίας λειτουργικού σταδίου ήταν αρνητική και κάθε διάστημα εκκίνησης 95% παρέμεινε κάτω από το μηδέν, σύμφωνα με την περίληψη.
Η εγκυρότητα του αναλυτή κινήθηκε προς την αντίθετη κατεύθυνση: και οι εννέα εκτιμήσεις σημείων ήταν θετικές, αν και τα διαστήματα για τις τρεις συγκρίσεις μερικής εγκατάλειψης περιλάμβαναν μηδέν. Με άλλα λόγια, τα αποτελέσματα του αγωγού θα μπορούσαν να παραμείνουν -ή να φαίνονται πιο πιθανό να παραμείνουν- διαρθρωτικά συμβατά ακόμα και όταν επιδεινώθηκε το ευαίσθητο σε στοιχεία μέτρο επιτυχίας.
Το έγγραφο διαχωρίζει επίσης την αναγνώριση υποβαθμισμένων στοιχείων από την ανάκτηση από αυτά. Μεταξύ των αποτελεσμάτων υποβαθμισμένου ελέγχου με έγκυρη ανάλυση, η ανίχνευση υποβάθμισης αναφέρθηκε ως 1,0 σε κάθε υποβαθμισμένη συνθήκη, αλλά τα ποσοστά ψευδούς διασφάλισης εξακολουθούσαν να είναι μη μηδενικά. Μεταξύ των εξόδων υποβαθμισμένης κλιμάκωσης με έγκυρη ανάλυση, η ανάκτηση ήταν 0,0 σε κάθε υποβαθμισμένη κατάσταση. Οι συγγραφείς το περιγράφουν αυτό ως μια οριοθετημένη απόκλιση επιπέδου αξιοπιστίας στην αξιολογούμενη διαμόρφωση.
Συνολικά, ο σχεδιασμός διατηρεί δύο διαφορετικά ερωτήματα σε όλη την αξιολόγηση: εάν ένα προϊόν μπορεί να γίνει αποδεκτό στην αναμενόμενη δομική μορφή και εάν τα στοιχεία που υποστηρίζουν αυτό το προϊόν είναι ακόμα χρησιμοποιήσιμα για το εκχωρημένο στάδιο. Οι αναφερόμενες συγκρίσεις αφορούν αυτή τη διαφορά υπό τις αναφερόμενες συνθήκες. Ως εκ τούτου, περιγράφουν πώς συμπεριφέρθηκαν τα μέτρα σε αυτήν την αξιολόγηση, ενώ αφήνουν το ευρύτερο πεδίο της απόκλισης ανοιχτό σε περαιτέρω δοκιμές.
Γιατί έχει σημασία
Η μελέτη υπογραμμίζει μια πρακτική λειτουργία αστοχίας για συστήματα τεχνητής νοημοσύνης που περνούν δομικούς ελέγχους ενώ βασίζονται σε ελλιπή, συμπιεσμένα ή αντικρουόμενα στοιχεία. Αυτή η διάκριση έχει σημασία όπου ένα στάδιο μοντέλου δίνει πληροφορίες σε ένα άλλο, συμπεριλαμβανομένων των ροών εργασιών αποφάσεων, ελέγχου και κλιμάκωσης.
Πολλά συστήματα τεχνητής νοημοσύνης χρησιμοποιούν μορφοποίηση και ελέγχους σχήματος ως αρχική διασφάλιση. Αυτοί οι έλεγχοι μπορούν να αποδείξουν ότι ένα αποτέλεσμα είναι συντακτικά χρησιμοποιήσιμο - για παράδειγμα, ότι περιέχει τα αναμενόμενα πεδία - χωρίς να διαπιστωθεί ότι τα υποκείμενα στοιχεία είναι πλήρη, συνεπή ή κατάλληλα για την επόμενη απόφαση. Το ESR προορίζεται για τη μέτρηση αυτής της δεύτερης ιδιότητας.
Η διάκριση είναι ιδιαίτερα σημαντική σε αγωγούς όπου ένα πρώιμο μοντέλο συνοψίζει ή ταξινομεί πληροφορίες και σε μεταγενέστερα στάδια έλεγχος, απόφαση ή κλιμάκωση με βάση το ενδιάμεσο αποτέλεσμα. Εάν τα υποβαθμισμένα στοιχεία μετατραπούν σε μια καθαρή έξοδο, το λογισμικό μεταγενέστερης ροής μπορεί να τα δεχτεί χωρίς να αναγνωρίζει ότι οι πληροφορίες που απαιτούνται για την εργασία έχουν εξασθενήσει.
Το αποτέλεσμα κλιμάκωσης του χαρτιού είναι ιδιαίτερα σημαντικό ως περιορισμός στο τι μπορεί να επιτύχει η ανίχνευση. Η περίληψη αναφέρει ότι το αξιολογούμενο στάδιο κλιμάκωσης δεν επανήλθε σε καμία υποβαθμισμένη κατάσταση, παρά τα έγκυρα αποτελέσματα ανάλυσης. Αυτό δεν δείχνει ότι όλα τα συστήματα κλιμάκωσης LLM αποτυγχάνουν, αλλά δείχνει γιατί η ανίχνευση ενός προβλήματος και η αποκατάσταση αξιόπιστων αποδεικτικών στοιχείων αποτελούν ξεχωριστές απαιτήσεις μηχανικής.
Τα ευρήματα θα μπορούσαν να βοηθήσουν τους οργανισμούς να σχεδιάσουν αξιολογήσεις που δοκιμάζουν περισσότερα από τη μορφή εξόδου. Ένα σύστημα μπορεί να χρειάζεται ξεχωριστά μέτρα για την πληρότητα των αποδεικτικών στοιχείων, τη γείωση, την εσωτερική συνέπεια, την επιτυχία της εργασίας και τη συμπεριφορά ανάκτησης, παράλληλα με τους συνήθεις ελέγχους σχήματος ή ανάλυσης. Το έγγραφο δεν αποδεικνύει ότι το ESR είναι ένα γενικό βιομηχανικό πρότυπο ή ότι βελτιώνει τα αποτελέσματα του πραγματικού κόσμου. παρουσιάζει και θέτει σε λειτουργία το πλαίσιο σε μία αναφερόμενη αξιολόγηση.
Επομένως, η ευρύτερη επίπτωση αφορά το τι θα πρέπει να ζητηθεί να μετρήσει ένας έλεγχος αξιοπιστίας. Η δομική συμμόρφωση μπορεί να παραμείνει χρήσιμη ως μηχανική ιδιότητα, αλλά δεν απαντά από μόνη της στο ερώτημα ποιότητας αποδεικτικών στοιχείων. Το πλαίσιο της μελέτης τοποθετεί αυτές τις ιδιότητες το ένα δίπλα στο άλλο, έτσι ώστε ένας αγωγός να μπορεί να εξεταστεί τόσο ως προς τη μορφή που μπορεί να χρησιμοποιηθεί όσο και ως προς τη χρήση, χωρίς να αντιμετωπίζεται κανένα μέτρο ως πλήρης αποτίμηση αξιοπιστίας.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
What is a common training objective for an autoregressive language model?
Τι να παρακολουθήσετε στη συνέχεια
Το αποτέλεσμα χρειάζεται δοκιμές πέρα από τη διαμόρφωση του μεμονωμένου μοντέλου του χαρτιού, το σχεδιασμό του αγωγού και τις απολυμανμένες θήκες. Μελλοντικές εργασίες θα πρέπει να εξετάσουν εάν το ESR και η αναφερόμενη απόκλιση ισχύουν μεταξύ μοντέλων, εργασιών, τύπων αποδεικτικών στοιχείων και μεγαλύτερων ή ανεξάρτητα αναπαραγόμενων αξιολογήσεων.
Η αναπαραγωγή είναι το κεντρικό ανοιχτό ερώτημα. Οι συγγραφείς περιορίζουν ρητά τα συμπεράσματά τους στην αξιολογούμενη διαμόρφωση του μοντέλου, στο σχεδιασμό του αγωγού, στις επιλεγμένες περιπτώσεις απολύμανσης, στη διαδικασία βαθμολόγησης και στην μονή κλίμακα. Η περίληψη δεν καθορίζει πώς θα άλλαζαν τα αποτελέσματα με άλλα μοντέλα γλώσσας, μεγαλύτερα σύνολα δεδομένων, ζωντανές εγγραφές επιχειρήσεων ή διαφορετικές αρχιτεκτονικές αγωγών.
Το έγγραφο αναφέρει ότι υπάρχουν διαθέσιμα υλικά κώδικα και αναπαραγωγιμότητας, αλλά η παρεχόμενη πηγή δεν περιγράφει το περιεχόμενό τους, τις λεπτομέρειες υλοποίησης ή αν ανεξάρτητοι ερευνητές έχουν αναπαράγει τα αποτελέσματα. Αυτά τα υλικά και οι εξωτερικές επαναλήψεις θα είναι σημαντικά για τον έλεγχο της διαδικασίας βαθμολόγησης, της ανάλυσης bootstrap και της σημασίας των αναφερόμενων μέτρων επιτυχίας.
Οι μελλοντικές αξιολογήσεις θα πρέπει να ελέγξουν εάν η ίδια απόκλιση εμφανίζεται σε πρακτικά περιβάλλοντα με διαφορετικές αποτυχίες στοιχείων. Η τρέχουσα πηγή ονομάζει συμπίεση, μερική απώλεια και σύγκρουση, αλλά δεν παρέχει αρκετές λεπτομέρειες αφηρημένα για να προσδιορίσει ποιοι τύποι στοιχείων ήταν πιο επιζήμιοι, εάν η σοβαρότητα της υποβάθμισης ποικίλλει συστηματικά ή πώς επιλέχθηκαν οι περιπτώσεις.
Οι αναγνώστες θα πρέπει επίσης να παρακολουθούν πώς το ESR συγκρίνεται με τα υπάρχοντα μέτρα αξιοπιστίας, βαθμονόμησης, ανάκτησης-γείωσης και αβεβαιότητας. Η πηγή υποστηρίζει το στενότερο συμπέρασμα ότι η εγκυρότητα του αναλυτή και η επιτυχία σταδίου που είναι ευαίσθητα σε στοιχεία διέφεραν σε αυτό το πείραμα. Δεν υποστηρίζει ισχυρισμούς σχετικά με τα μεγάλα ποσοστά αστοχίας, τον κίνδυνο παραγωγής ή την αξιοπιστία των αγωγών LLM γενικά.
Τα όρια είναι μέρος της ερμηνείας του αποτελέσματος. Οι αναφερόμενες μετρήσεις δείχνουν τι συνέβη εντός της περιγραφόμενης διαμόρφωσης και δεν επιλύουν εάν το ίδιο μοτίβο θα εξακολουθούσε να υπάρχει αλλού. Τα υλικά αναπαραγωγιμότητας, οι ανεξάρτητες αξιολογήσεις και οι συγκρίσεις με σχετικά μέτρα μπορούν να διευκρινίσουν πόσο βάρος πρέπει να δοθεί στο πλαίσιο και στην απόκλιση που παρατηρείται στην παρεχόμενη μελέτη.