AI szószedet kifejezés

Mi az QLoRA?

Meghatározás

Finomhangoló technika, amely a 4 bites súlykvantálást LoRA adapterekkel kombinálja a memóriaigény csökkentése érdekében.

Kapcsolódó kifejezések

LoRA (alacsony rangú adaptáció)
Paraméter-hatékony finomhangolási módszer, amely alacsony rangú adaptermátrixokat ad hozzá.
Kvantálás
Modellsúlyok konvertálása kisebb pontosságú formátumokká, például 8 bites vagy 4 bites.
Finomhangolás
Tartomány-specifikus adatok továbbképzése egy előre betanított modell adott feladathoz való adaptálásához.
Utasítás hangolás
Utasítás-válasz páros modell finomhangolása a feladatkövetés javítása érdekében.
Modell kvantálás
A modellsúlyok numerikus pontosságának csökkentése a memória és a következtetési költségek csökkentése érdekében.
Paraméter-hatékony finomhangolás (PEFT)
Olyan módszerek, amelyek a hozzáadott paraméterek egy kis részhalmazának betanításával adaptálják a modelleket.

Tudjon meg többet ingyenes útmutatóinkból

QLoRA and 4-Bit Fine-Tuning

See also

DPO (Direct Preference Optimization)Flash AttentionTree of ThoughtsMulti-Head AttentionReActPositional EncodingAgentic LoopRoPE (Rotary Positional Embeddings)
Böngésszen a teljes AI szószedetbenFedezze fel az összes ingyenes AI-útmutatót