Quiz collegato alla guida · Facile Livello

Quiz sulla modellazione del linguaggio

Testare le probabilità autoregressive, i limiti di n-grammi, gli obiettivi derivati ​​dai dati, la generazione, la perdita, il campionamento, i prefissi di addestramento osservati e la probabilità congiunta.

Percorsi guida correlatiModellazione del linguaggio
Domanda 1 di 8

Nella formulazione autoregressiva del modello di linguaggio dichiarata, cosa viene previsto dal contesto dei token precedenti?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Nella formulazione autoregressiva del modello di linguaggio dichiarata, cosa viene previsto dal contesto dei token precedenti?
    • Una distribuzione di probabilità per il token successivo
    • Il rango alfabetico del file originale
    • Solo una misura di temperatura dal dispositivo
    • Un'etichetta immagine obbligatoria senza informazioni di sequenza
  2. Quali limitazioni dovrebbero essere considerate per un modello di linguaggio n-gram a breve storia?
    • Un requisito che tutti i modelli n-gram rifiutino ogni sequenza non vista anche con smoothing
    • Una garanzia di storia illimitata
    • Un requisito di elaborare solo immagini
    • Contesto limitato e possibili probabilità zero per continuazioni non viste senza smoothing
  3. Perché la pre‑addestramento di un modello linguistico next‑token può ottenere obiettivi senza una singola annotazione di classe per ogni posizione?
    • Il modello non ha un obiettivo di addestramento
    • I token successivi target sono già presenti nel testo osservato
    • Tutto il testo di addestramento deve essere stato generato dallo stesso modello
    • Ogni posizione richiede un classificatore di immagini esterno
  4. Come utilizza la generazione autoregressiva di testo un token di continuazione selezionato?
    • Prevede ogni token futuro in modo indipendente in un unico passo
    • Scarta ogni token selezionato prima della previsione successiva
    • Aggiunge il token e utilizza l'output precedente disponibile come contesto per le previsioni successive
    • Modifica le etichette di addestramento in base ai risultati futuri del deployment
  5. Quale obiettivo è comunemente minimizzato per la configurazione di addestramento next‑token autoregressivo indicata?
    • Distanza numerica quadrata tra i valori ID dei token alfabetici
    • Solo il numero di token in un nome file di output
    • Solo la perdita hinge sulle posizioni dei pixel dell'immagine
    • Entropia incrociata o logaritmo di verosimiglianza negativo per i token target osservati
  6. Cosa influenzano temperatura e scelte top-p durante la generazione campionata di modelli linguistici?
    • Come vengono selezionati i token di continuazione dai punteggi del modello
    • Il numero di strati addestrati dopo ogni token
    • Una garanzia che tutte le affermazioni di output diventino vere
    • L'etichetta scritta in ogni sequenza di addestramento osservata
  7. Durante l'addestramento con token successivo forzato dall'insegnante, da dove proviene il contesto precedente per un token target?
    • Solo l'output precedentemente campionato liberamente dal modello
    • Un corpus di sostituzione generato casualmente a ogni posizione
    • La sequenza di addestramento osservata
    • I tag di valutazione finale forniti dopo il deployment
  8. Un prefisso a due token dichiarato ha probabilità 0,5 per il primo token e 0,2 per il secondo dato il primo. Qual è la probabilità congiunta del prefisso?
    • 0.7
    • 0,1
    • 0.4
    • 0.3