Termín glosář AI

co je QLoRA?

Definice

Technika jemného ladění, která kombinuje 4bitovou kvantizaci hmotnosti s adaptéry LoRA pro snížení potřeby paměti.

Související pojmy

LoRA (adaptace nízkého hodnocení)
Parametrově efektivní metoda jemného ladění, která přidává matice adaptérů nízké úrovně.
Kvantování
Konverze modelových vah do formátů s nižší přesností, jako je 8bitový nebo 4bitový.
Jemné doladění
Pokračující školení o datech specifických pro doménu, aby bylo možné předem trénovaný model přizpůsobit konkrétnímu úkolu.
Ladění instrukcí
Jemné doladění modelu na párech instrukce-odpověď pro zlepšení plnění úkolů.
Kvantování modelu
Snížení numerické přesnosti modelových vah za účelem snížení nákladů na paměť a odvození.
Parametrově efektivní jemné doladění (PEFT)
Metody, které přizpůsobují modely trénováním malé podmnožiny přidaných parametrů.

Více se dozvíte v našich bezplatných průvodcích

QLoRA and 4-Bit Fine-Tuning

Viz také

DPO (Direct Preference Optimization)Flash AttentionTree of ThoughtsMulti-Head AttentionReActPositional EncodingAgentic LoopRoPE (Rotary Positional Embeddings)
Projděte si celý glosář AIProzkoumejte všechny bezplatné průvodce AI