Gids-gekoppelde quiz · Middelmatig Niveau
Beperkte decoderingsquiz
Beoordeel token-niveau beperkingen, incrementeel parsen, beperkingen van gestructureerde output en het onderscheid tussen geldige opmaak en correcte inhoud.
Vraag 1 van 8
Wat doet beperkte decodering fundamenteel bij elke generatiestap?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat doet beperkte decodering fundamenteel bij elke generatiestap?
- Maskeert tokens die de vereiste structuur zouden schenden voordat er monsters worden genomen
- Hertraint het model op basis van gestructureerde voorbeelden
- Verlaagt de temperatuur tot nul
- Voegt meer trainingsgegevens toe aan de prompt
- Wat kan er gebeuren als een aangevraagd JSON-schema een functie gebruikt die niet wordt ondersteund door een implementatie met gestructureerde uitvoer?
- Het model verzamelt in stilte nieuwe trainingsgegevens
- Het verzoek kan met een foutmelding worden afgewezen
- Alle uitvoer wordt geldige SQL
- Het schema wordt automatisch omgezet naar natuurlijke taal
- Welke technische uitdaging maakt beperkte decodering lastig te implementeren?
- Zonder dit kunnen modellen helemaal geen tekst uitvoeren
- Het vereist een GPU met meer dan 100 GB geheugen
- Subwoordtokens komen niet goed overeen met grammaticale symbolen
- Grammatica's kunnen niet voor JSON worden geschreven
- Welke van deze is een reëel formaat dat wordt gebruikt om beperkingen voor decodering op te geven?
- Een spreadsheet met gewichten
- Een lijst met GPU-temperaturen
- Een willekeurige startwaarde
- Een JSON-schema of contextvrije grammatica
- Op welk punt in de pijplijn wordt het beperkingsmasker doorgaans toegepast?
- Naar de logits, vóór de softmax/sampling-stap
- Vóór tokenisatie van de prompt
- Nadat de tekst al naar de gebruiker is afgedrukt
- Alleen tijdens modeltraining
- Welk voordeel biedt beperkte decodering vergeleken met het simpelweg vragen aan een model in de prompt om 'geldige JSON uit te voeren'?
- Het verbruikt minder elektriciteit
- Het biedt een harde garantie in plaats van te vertrouwen op de medewerking van het model
- Het maakt het model creatiever
- Het elimineert de noodzaak van een tokenizer
- Wat doet PICARD met een kandidaat-token waardoor een gedeeltelijke SQL-query onparseerbaar wordt?
- Accepteert het en repareert de query na generatie
- Traint het taalmodel onmiddellijk opnieuw
- Weigert dat token tijdens incrementeel parseren voordat het wordt verzonden
- Verwijdert het databaseschema van de gebruiker
- Wat garandeert een schema-conforme output op zichzelf?
- Elke waarde is waar in de externe wereld
- Het model maakte gebruik van de juiste brondocumenten
- Er kan geen weigering of onvolledig antwoord plaatsvinden
- De uitvoer komt overeen met de ondersteunde structuur, niet dat de waarden ervan feitelijk correct zijn