Il prossimoProssima guida
Significatività statistica nelle valutazioni LLM
Tecnico
GUIDA TECNICA
Un token logprob esprime la probabilità condizionale del modello per un token nella sua sequenza generata; è una proprietà della scelta simbolica, non automaticamente una probabilità calibrata che la risposta completa sia corretta.
Ascolta questa guidaNarrato dall'IA · ~3 min
Logprobs può contribuire alle stime di confidenza specifiche dell'attività se convalidato rispetto ai risultati etichettati.
Una probabilità logaritmica è il logaritmo di una probabilità. Durante la generazione, un token logprob descrive la probabilità che il modello abbia assegnato un particolare token successivo dato il contesto precedente e lo stato del modello. Alcune API possono restituire logprobs per i token generati e, in alcuni endpoint, alternative tra i token più probabili. La disponibilità e i limiti dipendono dal provider, dall'endpoint e dal modello. Questi valori possono aiutare a verificare l'ambiguità o confrontare le etichette dei candidati in un'attività di classificazione vincolata. Ma le risposte in linguaggio naturale sono costituite da più token e la tokenizzazione, la lunghezza della risposta, la formulazione e la progettazione dei prompt influiscono sui punteggi della sequenza. Un'alta probabilità per ciascun token non significa che la risposta sia effettivamente corretta; i modelli possono generare con sicurezza continuazioni comuni ma false. Anche la somma o la media dei logprob dei token richiede un'attenta normalizzazione e convalida. La calibrazione della confidenza chiede se gli esempi a cui è stato assegnato un livello di confidenza sono corretti a una frequenza corrispondente. Per utilizzare logprobs come caratteristica di confidenza, definire il risultato target, raccogliere esempi etichettati rappresentativi, ricavare un punteggio e valutare la calibrazione e il rilevamento degli errori sui dati conservati. Le possibili misure includono diagrammi di affidabilità, punteggio Brier, errore di calibrazione previsto e rischio selettivo ad una soglia di astensione scelta. La ricerca sulla calibrazione del modello linguistico rileva che le probabilità simboliche e la confidenza verbalizzata possono comportarsi in modo diverso tra famiglie di modelli e compiti. Tratta i logprobs come un segnale, non come un misuratore di verità a livello di risposta. Utilizza la revisione umana o un fallback per decisioni ad alto impatto e controlla se l'API richiesta espone effettivamente logprobs per il modello selezionato.
Un classificatore confronta i logprobs per un insieme fisso di etichette mutuamente esclusive, quindi calibra i punteggi sui dati etichettati.
Uno sviluppatore esamina le alternative dei token per capire se una risposta vincolata era ambigua.
Un team controlla il punteggio Brier e l'errore di calibrazione previsto su un set di validazione trattenuto.
Un flusso di lavoro ad alto impatto indirizza i casi con scarsa certezza alla revisione umana anziché accettare i punteggi simbolici come verità.
I fornitori potrebbero esporre segnali a livello di token più ricchi, mentre la ricerca continua a studiare la confidenza semantica e la calibrazione tra le attività. Sistemi di fiducia migliori combineranno le probabilità con il contesto del compito, prove esterne e dati di calibrazione conservati. I logprobs token rimarranno molto utili quando lo spazio di output è limitato e i risultati possono essere etichettati. Le applicazioni future dovrebbero riportare i tassi di errore e la deriva della calibrazione anziché mostrare agli utenti un numero di confidenza non convalidato. I metodi di calibrazione dovranno essere aggiornati quando il modello, il prompt o la popolazione di input cambiano.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Un token logprob esprime la probabilità condizionale del modello per un token nella sua sequenza generata; è una proprietà della scelta simbolica, non automaticamente una probabilità calibrata che la risposta completa sia corretta. Logprobs può contribuire alle stime di confidenza specifiche dell'attività se convalidato rispetto ai risultati etichettati.
La verosimiglianza simbolica e la correttezza fattuale sono quantità diverse.
L'aggregazione della sequenza dipende da come il testo viene tokenizzato e composto.
La calibrazione richiede il confronto tra la confidenza prevista e i risultati empirici.
La calibrazione confronta i livelli di confidenza dichiarati con la precisione osservata.
Uno spazio di output limitato può rendere la costruzione della partitura più interpretabile, sebbene sia comunque necessaria la convalida.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Significatività statistica nelle valutazioni LLM
Tecnico