Terug naar alle quizzenGids-gekoppelde quizMoeilijk Niveau6 Vragen

Speculatieve streaming en multi-token voorspellingsquiz

Test uw kennis van speculatieve decodering en voorspelling van meerdere tokens.

Vraag 1 van 6Juist: 0

Waarom is standaard autoregressieve decodering vaak traag op een GPU?