What is QLoRA? Definition | AI Understanding

Definizione

Una tecnica di messa a punto che combina la quantizzazione del peso a 4 bit con gli adattatori LoRA per ridurre le esigenze di memoria.

Termini correlati

LoRA (adattamento di basso rango)

Un metodo di regolazione fine efficiente in termini di parametri che aggiunge matrici di adattatori di basso rango.

Conversione dei pesi del modello in formati con precisione inferiore come 8 bit o 4 bit.

Formazione continua su dati specifici del dominio per adattare un modello pre-addestrato a un compito specifico.

Sintonizzazione delle istruzioni

Messa a punto di un modello sulle coppie istruzione-risposta per migliorare il follow-up del compito.

Quantizzazione del modello

Riduzione della precisione numerica dei pesi del modello per ridurre i costi di memoria e inferenza.

Regolazione fine efficiente dei parametri (PEFT)

Metodi che adattano i modelli addestrando un piccolo sottoinsieme di parametri aggiunti.

Scopri di più nelle nostre guide gratuite

QLoRA and 4-Bit Fine-Tuning

Vedi anche

DPO (Direct Preference Optimization)Flash Attention Tree of Thoughts Multi-Head Attention ReAct Positional Encoding Agentic Loop RoPE (Rotary Positional Embeddings)

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale