LegközelebbKövetkező útmutató
KV gyorsítótár optimalizálása
Műszaki
Nyelvi AI ÚTMUTATÓ
A KV gyorsítótár tárolja azokat a kulcs- és értékvektorokat, amelyeket a transzformátor már kiszámolt a korábbi tokenekhez, így nem kell újraszámítania azokat minden új szóhoz, amelyet generál.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It is the single biggest reason text generation is fast — and the main thing eating your GPU memory during long conversations.
A transzformátorok szöveget egyenként generálnak, és minden új token figyelmi rétegét összehasonlítani kell minden korábbi tokennel. A figyelemmechanizmus minden tokent lekérdezés-, kulcs- és értékvektorrá alakít. Gyorsítótárazás nélkül az 1000-es számú token generálása azt jelentené, hogy minden lépésben újraszámítanák a kulcsokat és értékeket mind a 999 korábbi tokenhez – négyzetes, pazarló munka. A KV-gyorsítótár elmenti ezeket a kulcs- és értékvektorokat az első kiszámításuk után, és újrafelhasználja őket, így minden új lépés csak az egyetlen legújabb token vektorait számítja ki, és a tárolt gyorsítótáron vesz részt. Ez a tokenenkénti költséget a sorozathosszúságú skálázásról nagyjából állandóra csökkenti. A kompromisszum a memória: a gyorsítótár lineárisan növekszik a kontextus hosszával, a rétegek számával és a figyelemfejekkel, és gyakran a domináns memóriafogyasztóvá válik a hosszú kontextus kiszolgálásában.
A chatbot válaszainak felgyorsítása a beszélgetési előzmények gyorsítótárazott kulcsainak/értékeinek újrafelhasználásával ahelyett, hogy minden körben újra feldolgoznák.
Előtag gyorsítótárazás, amely megosztja a gyorsítótárat egy hosszú rendszerparancs érdekében sok felhasználó között, csökkentve a költségeket és a késleltetést.
A vLLM PagedAttention, amely blokkokban kezeli a KV gyorsítótárat, hogy sok egyidejű kérést hatékonyan kiszolgáljon egyetlen GPU-n.
A KV gyorsítótár kvantálása a kisebb pontosság érdekében, hogy hosszabb kontextusokat illesszen be a korlátozott GPU-memóriába.
Ahogy a kontextusablakok több százezer tokenbe nyúlnak bele, a KV gyorsítótár válik a központi szűk keresztmetszetté, ezért az innováció heves: a gyorsítótár kvantálása 8 vagy 4 bitre, a kis jelentőségű tokeneket eldobó kilakoltatási szabályzatok, keresztkérések előtagok megosztása, valamint a CPU-ra vagy lemezre történő kitöltés. Az olyan építészeti eltolódások, mint a többfejes látens figyelem, magát a gyorsítótárat tömörítik. A figyelem változatok és memóriarendszerek folyamatos közös tervezése várható, amelyek célja a nagyon hosszú kontextusok olcsó és nagy áteresztőképességű kiszolgálása.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A KV gyorsítótár tárolja azokat a kulcs- és értékvektorokat, amelyeket a transzformátor már kiszámolt a korábbi tokenekhez, így nem kell újraszámítania azokat minden új szóhoz, amelyet generál. Ez az egyetlen legnagyobb ok, amiért a szöveggenerálás gyors – és ez a fő dolog, ami a hosszú beszélgetések során felemészti a GPU memóriáját.
A KV gyorsítótár tárolja a korábbi tokenek kulcs- és értékvektorait, így a figyelem újrafelhasználhatja őket az újraszámítás helyett.
The cache reuses keys and values computed for earlier tokens instead of rebuilding them at every decode step. The new query still attends over cached positions, so attention work and cache memory continue to grow with context length.
A gyorsítótár a sorozathosszúsággal, a rétegekkel és a fejekkel növekszik, és gyakran a GPU-memória domináns fogyasztójává válik a hosszú kontextusú kiszolgálásban.
A csoportosított lekérdezés és a többlekérdezés figyelem lehetővé teszi, hogy több lekérdezőfej kevesebb kulcs-/értékkészleten osztozzon, ami jelentősen csökkenti a gyorsítótárat.
Az előtöltés kitölti a gyorsítótárat a prompt K/V értékével; A decode lépésenként egy új token K/V értékét fűzi hozzá, és újra felügyeli a gyorsítótárat.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
KV gyorsítótár optimalizálása
Műszaki