AI Ordlista Term

Vad är Beskärning?

Definition

Ta bort mindre viktiga modellvikter eller neuroner för att minska storleken och beräkna.

Relaterade termer

Skjutfönster Uppmärksamhet
Ett uppmärksamhetsmönster där varje token endast tar hand om ett fönster med fast storlek av närliggande tokens för att minska beräkningen.
Skalningslag
Ett empiriskt samband som visar hur prestanda förbättras med modellstorlek, data eller beräkning.
Destillerad modell
En mindre modell tränad att imitera en större modells beteende samtidigt som man använder mindre beräkning vid slutledning.
Backpropagation
Grundträningsalgoritmen som uppdaterar modellvikter genom att sprida prediktionsfel bakåt genom nätverket.
Beräkna
Bearbetningsresurserna som krävs för att träna och köra modeller, ofta mätt i FLOPS- eller GPU-timmar.
Gradient
En vektor som visar hur mycket varje parameter bör ändras för att minska förlusten.

Läs mer i våra kostnadsfria guider

Attention Rollout and Head PruningStructured Pruning and Layer DroppingModel Pruning

See also

Prompt InjectionQuantizationPrompt EngineeringRAG (Retrieval-Augmented Generation)PromptRecallPretrainingRecommendation System
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider