Gids-gekoppelde quiz · Moeilijk Niveau

Typische bemonsteringsquiz

Controleert typische verrassende, op entropie gebaseerde rangschikking, de typische_p-massadrempel en verschillen met op waarschijnlijkheid gerangschikte top-p-steekproeven.

Gerelateerde gidspadenTypische bemonstering
Vraag 1 van 8

Met welke kernhoeveelheid vergelijkt een typische steekproef elk kandidaat-token?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Met welke kernhoeveelheid vergelijkt een typische steekproef elk kandidaat-token?
    • De verwachte informatie-inhoud (entropie) van de distributie
    • De totale woordenschatgrootte van het model
    • De positie van het token in de zin
    • Alleen al de temperatuurparameter
  2. Hoe wordt bij een typische bemonstering omgegaan met het meest waarschijnlijke token?
    • Deze wordt altijd eerst geselecteerd
    • Het kan dit uitsluiten als de verrassing ver beneden de verwachte waarde ligt
    • Het verdubbelt de waarschijnlijkheid
    • Het negeert de waarschijnlijkheid volledig
  3. Door welk idee over menselijke taal werd een typische steekproef gemotiveerd?
    • Mensen kiezen altijd de zeldzaamst mogelijke woorden
    • Mensen herhalen nooit woorden
    • Mensen communiceren met een vrijwel constante hoeveelheid informatie
    • Mensen spreken in zinnen van vaste lengte
  4. Wat betekent de tau-parameter bij een typische bemonsteringscontrole?
    • Het leerpercentage tijdens de training
    • Het aantal lagen in het model
    • De maximale zinslengte
    • De cumulatieve waarschijnlijkheidsmassa verzameld in de typische set
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. In welk soort software worden typische sampling vaak blootgesteld aan ontwikkelaars?
    • Spreadsheet-toepassingen
    • Open-source LLM-inferentiebibliotheken zoals Hugging Face Transformers
    • Hulpmiddelen voor beeldbewerking
    • Databasequery-engines
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • Het aantal transformerlaagjes
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set