Gids-gekoppelde quiz · Moeilijk Niveau
Typische bemonsteringsquiz
Controleert typische verrassende, op entropie gebaseerde rangschikking, de typische_p-massadrempel en verschillen met op waarschijnlijkheid gerangschikte top-p-steekproeven.
Vraag 1 van 8
Met welke kernhoeveelheid vergelijkt een typische steekproef elk kandidaat-token?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Met welke kernhoeveelheid vergelijkt een typische steekproef elk kandidaat-token?
- De verwachte informatie-inhoud (entropie) van de distributie
- De totale woordenschatgrootte van het model
- De positie van het token in de zin
- Alleen al de temperatuurparameter
- Hoe wordt bij een typische bemonstering omgegaan met het meest waarschijnlijke token?
- Deze wordt altijd eerst geselecteerd
- Het kan dit uitsluiten als de verrassing ver beneden de verwachte waarde ligt
- Het verdubbelt de waarschijnlijkheid
- Het negeert de waarschijnlijkheid volledig
- Door welk idee over menselijke taal werd een typische steekproef gemotiveerd?
- Mensen kiezen altijd de zeldzaamst mogelijke woorden
- Mensen herhalen nooit woorden
- Mensen communiceren met een vrijwel constante hoeveelheid informatie
- Mensen spreken in zinnen van vaste lengte
- Wat betekent de tau-parameter bij een typische bemonsteringscontrole?
- Het leerpercentage tijdens de training
- Het aantal lagen in het model
- De maximale zinslengte
- De cumulatieve waarschijnlijkheidsmassa verzameld in de typische set
- Compared with greedy decoding, what does typical sampling try to change?
- It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
- It always selects the most probable token
- It guarantees every continuation is factually correct
- It removes probability scores from decoding
- In welk soort software worden typische sampling vaak blootgesteld aan ontwikkelaars?
- Spreadsheet-toepassingen
- Open-source LLM-inferentiebibliotheken zoals Hugging Face Transformers
- Hulpmiddelen voor beeldbewerking
- Databasequery-engines
- How does typical sampling rank candidate tokens differently from top-p sampling?
- By alphabetical order of token strings
- By token position in the prompt
- By distance between token surprisal and expected surprisal, rather than probability rank alone
- By the model’s training loss
- Which value does typical_p control?
- The model’s vocabulary size
- Het aantal transformerlaagjes
- The probability that the answer is factually correct
- The target cumulative probability mass collected in the typical set