Gids-gekoppelde quiz · Middelmatig Niveau

Beperkte decoderingsquiz

Beoordeel token-niveau beperkingen, incrementeel parsen, beperkingen van gestructureerde output en het onderscheid tussen geldige opmaak en correcte inhoud.

Gerelateerde gidspadenBeperkte decodering
Vraag 1 van 8

Wat doet beperkte decodering fundamenteel bij elke generatiestap?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat doet beperkte decodering fundamenteel bij elke generatiestap?
    • Maskeert tokens die de vereiste structuur zouden schenden voordat er monsters worden genomen
    • Hertraint het model op basis van gestructureerde voorbeelden
    • Verlaagt de temperatuur tot nul
    • Voegt meer trainingsgegevens toe aan de prompt
  2. Wat kan er gebeuren als een aangevraagd JSON-schema een functie gebruikt die niet wordt ondersteund door een implementatie met gestructureerde uitvoer?
    • Het model verzamelt in stilte nieuwe trainingsgegevens
    • Het verzoek kan met een foutmelding worden afgewezen
    • Alle uitvoer wordt geldige SQL
    • Het schema wordt automatisch omgezet naar natuurlijke taal
  3. Welke technische uitdaging maakt beperkte decodering lastig te implementeren?
    • Zonder dit kunnen modellen helemaal geen tekst uitvoeren
    • Het vereist een GPU met meer dan 100 GB geheugen
    • Subwoordtokens komen niet goed overeen met grammaticale symbolen
    • Grammatica's kunnen niet voor JSON worden geschreven
  4. Welke van deze is een reëel formaat dat wordt gebruikt om beperkingen voor decodering op te geven?
    • Een spreadsheet met gewichten
    • Een lijst met GPU-temperaturen
    • Een willekeurige startwaarde
    • Een JSON-schema of contextvrije grammatica
  5. Op welk punt in de pijplijn wordt het beperkingsmasker doorgaans toegepast?
    • Naar de logits, vóór de softmax/sampling-stap
    • Vóór tokenisatie van de prompt
    • Nadat de tekst al naar de gebruiker is afgedrukt
    • Alleen tijdens modeltraining
  6. Welk voordeel biedt beperkte decodering vergeleken met het simpelweg vragen aan een model in de prompt om 'geldige JSON uit te voeren'?
    • Het verbruikt minder elektriciteit
    • Het biedt een harde garantie in plaats van te vertrouwen op de medewerking van het model
    • Het maakt het model creatiever
    • Het elimineert de noodzaak van een tokenizer
  7. Wat doet PICARD met een kandidaat-token waardoor een gedeeltelijke SQL-query onparseerbaar wordt?
    • Accepteert het en repareert de query na generatie
    • Traint het taalmodel onmiddellijk opnieuw
    • Weigert dat token tijdens incrementeel parseren voordat het wordt verzonden
    • Verwijdert het databaseschema van de gebruiker
  8. Wat garandeert een schema-conforme output op zichzelf?
    • Elke waarde is waar in de externe wereld
    • Het model maakte gebruik van de juiste brondocumenten
    • Er kan geen weigering of onvolledig antwoord plaatsvinden
    • De uitvoer komt overeen met de ondersteunde structuur, niet dat de waarden ervan feitelijk correct zijn