Il prossimoProssima guida
Modellazione del linguaggio mascherato
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
La modellazione linguistica autoregressiva assegna probabilità a una sequenza di token attraverso distribuzioni del token successivo condizionate dal contesto precedente.
Ascolta questa guidaNarrato dall'IA · ~3 min
Questo obiettivo supporta l'addestramento e la generazione, mentre prevedere solo il testo probabile non stabilisce la verità dei suoi contenuti.
Language modeling concerns probabilities of text sequences. In an autoregressive formulation, each next-token distribution is conditioned on earlier tokens, and the probability of a specified prefix is the product of its conditional token probabilities. An illustrative two-token prefix has probability one-half for its first token and one-fifth for its second token given the first. Their joint prefix probability is one-tenth. This calculation concerns the stated prefix and does not add an unstated end-of-sequence event. N-gram models approximate context with a fixed short history and estimate continuation probabilities from counts. Without appropriate smoothing, unseen continuations can receive zero probability; smoothing can change that behavior, so novelty is not a guarantee that every n-gram system fails. Neural models use learned representations and can provide a different context-dependent distribution. Transformer decoder attention uses masking to prevent access to later target positions in the stated autoregressive training setup. The next-token training target is already present in the observed text, providing a self-supervised prediction task. During teacher-forced training, the prefix for a target comes from the observed training sequence. During autoregressive generation, selected output tokens are appended and used as context for later predictions. Those are different sources of context even when they use the same learned model. Cross-entropy or negative log-likelihood rewards assigning probability to the observed target tokens. Sampling settings then affect how a continuation is selected from model scores. Temperature rescales a distribution and nucleus sampling selects a probability-mass subset. Changes to selection can affect output variety without certifying factuality, safety, or useful reasoning.
Confronto delle probabilità del token successivo per un prefisso di testo indicato.
Studio di un modello di conteggio n-gram e del suo trattamento delle continuazioni non viste.
Addestramento di un modello causale a partire da token di destinazione già presenti nelle sequenze di testo.
Esaminare come una procedura di campionamento sceglie tra i token di continuazione previsti.
La ricerca sui modelli di linguaggio può confrontare rappresentazioni, obiettivi, scelte di dati e procedure di decodifica su compiti identificati. Una perdita di previsione più bassa può essere una prova utile della distribuzione del testo modellato, mentre il comportamento dell'applicazione richiede una valutazione aggiuntiva. Il post-addestramento, il recupero e l'uso di strumenti introducono altri componenti i cui effetti dovrebbero essere valutati separatamente dall'obiettivo del token successivo. I rapporti dovrebbero distinguere la valutazione della verosimiglianza forzata dall'insegnante dalla generazione campionata e spiegare quale contesto era disponibile. Questo rende più facile interpretare un miglioramento osservato senza trattare la previsione statistica come una prova di comprensione completa o di affidabilità fattuale.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Il language modeling autoregressivo assegna probabilità a una sequenza di token attraverso distribuzioni del token successivo condizionate al contesto precedente. Questo obiettivo supporta l'addestramento e la generazione, mentre prevedere solo il testo più probabile non stabilisce la verità del suo contenuto.
La formulazione modella le probabilità condizionali del token successivo per sequenze di testo.
Storie fisse brevi limitano il contesto, mentre lo smoothing influisce su come vengono assegnate probabilità agli eventi non visti.
Il testo fornisce obiettivi di previsione; ciò non rende la raccolta o il calcolo gratuiti.
La generazione procede condizionatamente attraverso una sequenza; un’implementazione può limitare la finestra di contesto disponibile.
L’obiettivo premia la probabilità assegnata ai target del next‑token osservati sotto la formulazione di addestramento indicata.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Modellazione del linguaggio mascherato
Intelligenza artificiale linguistica