Nyelvi AI ÚTMUTATÓ

KV gyorsítótár

A KV gyorsítótár tárolja azokat a kulcs- és értékvektorokat, amelyeket a transzformátor már kiszámolt a korábbi tokenekhez, így nem kell újraszámítania azokat minden új szóhoz, amelyet generál.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A KV Cache jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

It is the single biggest reason text generation is fast — and the main thing eating your GPU memory during long conversations.

Mély merülés

A transzformátorok szöveget egyenként generálnak, és minden új token figyelmi rétegét összehasonlítani kell minden korábbi tokennel. A figyelemmechanizmus minden tokent lekérdezés-, kulcs- és értékvektorrá alakít. Gyorsítótárazás nélkül az 1000-es számú token generálása azt jelentené, hogy minden lépésben újraszámítanák a kulcsokat és értékeket mind a 999 korábbi tokenhez – négyzetes, pazarló munka. A KV-gyorsítótár elmenti ezeket a kulcs- és értékvektorokat az első kiszámításuk után, és újrafelhasználja őket, így minden új lépés csak az egyetlen legújabb token vektorait számítja ki, és a tárolt gyorsítótáron vesz részt. Ez a tokenenkénti költséget a sorozathosszúságú skálázásról nagyjából állandóra csökkenti. A kompromisszum a memória: a gyorsítótár lineárisan növekszik a kontextus hosszával, a rétegek számával és a figyelemfejekkel, és gyakran a domináns memóriafogyasztóvá válik a hosszú kontextus kiszolgálásában.

Valós megvalósítás

A chatbot válaszainak felgyorsítása a beszélgetési előzmények gyorsítótárazott kulcsainak/értékeinek újrafelhasználásával ahelyett, hogy minden körben újra feldolgoznák.

Előtag gyorsítótárazás, amely megosztja a gyorsítótárat egy hosszú rendszerparancs érdekében sok felhasználó között, csökkentve a költségeket és a késleltetést.

A vLLM PagedAttention, amely blokkokban kezeli a KV gyorsítótárat, hogy sok egyidejű kérést hatékonyan kiszolgáljon egyetlen GPU-n.

A KV gyorsítótár kvantálása a kisebb pontosság érdekében, hogy hosszabb kontextusokat illesszen be a korlátozott GPU-memóriába.

A KV Cache jövője

Ahogy a kontextusablakok több százezer tokenbe nyúlnak bele, a KV gyorsítótár válik a központi szűk keresztmetszetté, ezért az innováció heves: a gyorsítótár kvantálása 8 vagy 4 bitre, a kis jelentőségű tokeneket eldobó kilakoltatási szabályzatok, keresztkérések előtagok megosztása, valamint a CPU-ra vagy lemezre történő kitöltés. Az olyan építészeti eltolódások, mint a többfejes látens figyelem, magát a gyorsítótárat tömörítik. A figyelem változatok és memóriarendszerek folyamatos közös tervezése várható, amelyek célja a nagyon hosszú kontextusok olcsó és nagy áteresztőképességű kiszolgálása.

A gyakorlatba ültetés

Miért számít

  • Sebesség és méretarány. A nyelvi munkafolyamatok gyorsabban haladhatnak a következetesség feláldozása nélkül.
  • Hozzáférés és elérés. Kibővíti a hozzáférést a nyelvek és a kommunikációs stílusok között.
  • Tisztább döntések. A csapatok több időt tölthetnek az ítélkezéssel, míg az automatizálás kezeli az ismétlést.

Vigyázz

  • A hallucinált tények csendben bekerülhetnek a jelentésekbe, a támogatási folyamatokba vagy a kutatási eredményekbe.
  • Az azonnali érzékenység inkonzisztens eredményeket eredményezhet a hasonló kérések között.
  • Ha a hozzáférés-szabályozás gyenge, az érzékeny szöveges adatok megjelenhetnek.

Következő lépések

  1. A kiadás előtt határozza meg a kimeneti formátumot, hangszínt és minőségi szabványokat.
  2. Földelje a válaszokat megbízható forrásokból, amikor a pontosság számít.
  3. Tartson emberi ellenőrzési pontot a nagy tétű kimenetekhez.
  4. Kövesse nyomon a meghibásodási mintákat, és rendszeresen tanítsa át az utasításokat vagy a munkafolyamatokat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the KV Cache quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

What is KV Cache?

A KV gyorsítótár tárolja azokat a kulcs- és értékvektorokat, amelyeket a transzformátor már kiszámolt a korábbi tokenekhez, így nem kell újraszámítania azokat minden új szóhoz, amelyet generál. Ez az egyetlen legnagyobb ok, amiért a szöveggenerálás gyors – és ez a fő dolog, ami a hosszú beszélgetések során felemészti a GPU memóriáját.

Mit tárol a KV gyorsítótár?

A KV gyorsítótár tárolja a korábbi tokenek kulcs- és értékvektorait, így a figyelem újrafelhasználhatja őket az újraszámítás helyett.

Milyen problémát old meg elsősorban a KV gyorsítótár?

The cache reuses keys and values computed for earlier tokens instead of rebuilding them at every decode step. The new query still attends over cached positions, so attention work and cache memory continue to grow with context length.

Mi a KV gyorsítótár fő hátránya?

A gyorsítótár a sorozathosszúsággal, a rétegekkel és a fejekkel növekszik, és gyakran a GPU-memória domináns fogyasztójává válik a hosszú kontextusú kiszolgálásban.

Melyik technika csökkenti a KV gyorsítótár méretét a kulcsok és értékek megosztásával a figyelemfejek között?

A csoportosított lekérdezés és a többlekérdezés figyelem lehetővé teszi, hogy több lekérdezőfej kevesebb kulcs-/értékkészleten osztozzon, ami jelentősen csökkenti a gyorsítótárat.

Mi a transzformátor következtetésének két fázisa a KV gyorsítótárhoz képest?

Az előtöltés kitölti a gyorsítótárat a prompt K/V értékével; A decode lépésenként egy új token K/V értékét fűzi hozzá, és újra felügyeli a gyorsítótárat.