Termen de glosar AI

Ce este KV Cache?

Definiție

Tensorii chei și valorii stocați din jetoanele anterioare care permit transformatorilor să genereze noi jetoane fără a recalcula atenția din trecut.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Învățare continuăAbordări de formare care permit unui model să continue să învețe din date noi, fără a uita cunoștințele anterioare.Eșantionarea top-kO strategie de decodare care prelevează numai din cele k cele mai probabile simboluri următoare.Învățare nesupravegheatăModele de învățare din date neetichetate fără rezultate țintă explicite.Atenție fereastră glisantăUn model de atenție în care fiecare jeton se ocupă doar de o fereastră de dimensiune fixă a jetonelor din apropiere pentru a reduce calculul.SentencePieceUn tokenizer agnostic de limbă care învață unitățile de subcuvinte direct din textul brut fără a împărți în prealabil spațiile albe.Pedeapsa de prezentaO setare de decodare care reduce probabilitatea de apariție a jetoanelor, încurajând subiecte noi.

Aflați mai multe în ghidurile noastre gratuite

KV CacheKV Cache OptimizationCache-Augmented Generation (CAG)

Vezi și

Speculative DecodingMCP (Model Context Protocol)Zero Data RetentionAgentic LoopUsage-Based BillingReActTrust CalibrationTree of Thoughts