Înapoi la toate chestionareleTest legat de ghidGreu Nivel6 Întrebări

Streaming speculativ și test de predicție multi-token

Testați-vă cunoștințele despre decodificarea speculativă și predicția multi-token.

Întrebare 1 de 6Corect: 0

De ce decodificarea autoregresivă standard este adesea lentă pe un GPU?