Tillbaka till alla frågesporterGuidelänkat frågesportHårt Nivå6 Frågor

Spekulativ streaming och Multi-Token Prediction Quiz

Testa dina kunskaper om spekulativ avkodning och förutsägelse av flera token.

Fråga 1 av 6Rätt: 0

Varför är standard autoregressiv avkodning ofta långsam på en GPU?