Gids-gekoppelde quiz · Moeilijk Niveau

Cache-Augmented Generation (CAG)-quiz

Test uw begrip van cache-augmented generatie: hoe KV-caches vooraf worden geladen en hergebruikt, cache-resets tussen query's en limieten voor de corpusgrootte.

Gerelateerde gidspadenCache Augmented Generatie
Vraag 1 van 8

Wat gebruikt CAG in plaats van ophalen per query?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat gebruikt CAG in plaats van ophalen per query?
    • Een trefwoordzoekmachine
    • Het afstemmen van het model op de documenten
    • Een nieuwe vectorindex per vraag
    • De hele kennisbank één keer vooraf in de KV-cache laden en deze opnieuw gebruiken
  2. Wat is de KV-cache in een transformator?
    • Een database met gebruikersaccounts
    • De opgeslagen attentiesleutels en waarden die zijn berekend voor tokens die het model al heeft gelezen
    • Een lijst met document-URL's
    • De getrainde gewichten van het model
  3. Waarom kapt een CAG-systeem de cache af na elk antwoord?
    • Om het antwoord op te slaan voor training
    • Om de documenten definitief te verwijderen
    • Om de status 'Alleen documenten' te herstellen, zodat de volgende query de vorige vraag en antwoord niet ziet
    • Om over te stappen naar een ander model
  4. Wat is de belangrijkste beperking van CAG?
    • Het gehele corpus moet in het contextvenster van het model passen
    • Het vereist een vectordatabase
    • Het kan vragen niet snel beantwoorden
    • Het verandert de gewichten van het model
  5. Waarom antwoordt CAG sneller dan de documenten in elk verzoek te plakken?
    • Het genereren van uitvoertokens wordt overgeslagen
    • Het model hoeft alleen de nieuwe vraagtokens te berekenen bovenop het in de cache opgeslagen voorvoegsel
    • Er wordt gebruik gemaakt van een kleiner model
    • Er worden minder documenten opgehaald
  6. Welke kennisbank past het beste bij CAG?
    • Een nieuwsarchief dat elk uur wordt bijgewerkt
    • Miljoenen klantrecords met machtigingen per gebruiker
    • Een hele webcrawl
    • Een kleine, stabiele producthandleiding die zelden verandert
  7. Welke uitspraak over CAG is een misvatting?
    • CAG verwijdert ophaalfouten omdat alle documenten aanwezig zijn
    • Voor het wijzigen van documenten moet de cache opnieuw worden opgebouwd
    • CAG stemt de gewichten van het model op de documenten nauwkeurig af
    • Gehoste promptcaching houdt verband met het idee
  8. Welke technieken verminderen het geheugen dat nodig is voor een grote KV-cache?
    • Gegroepeerde query-aandacht en cache-kwantisering
    • Meer aandachtshoofden toevoegen
    • Langere aanwijzingen gebruiken
    • Het verhogen van de bemonsteringstemperatuur