What is Pruning? Definition | AI Understanding

Itumọ

Yiyọ awọn iwuwo awoṣe ti ko ṣe pataki tabi awọn neuronu lati dinku iwọn ati iṣiro.

Awọn ofin ti o jọmọ

Sisun Window akiyesi

Apẹrẹ akiyesi nibiti ami ami kọọkan wa nikan si window iwọn ti o wa titi ti awọn ami ti o wa nitosi lati dinku iṣiro.

Ibasepo ti o ni agbara ti n fihan bi iṣẹ ṣe n dara si pẹlu iwọn awoṣe, data, tabi iṣiro.

Distilled awoṣe

Awoṣe ti o kere ju ikẹkọ lati ṣe afarawe ihuwasi awoṣe ti o tobi julọ lakoko lilo iṣiro kere si ni itọkasi.

Itankalẹ afẹyinti

Algorithm ikẹkọ mojuto ti o ṣe imudojuiwọn awọn iwọn awoṣe nipasẹ didin awọn aṣiṣe asọtẹlẹ sẹhin nipasẹ nẹtiwọọki.

Awọn orisun sisẹ ti o nilo lati ṣe ikẹkọ ati ṣiṣe awọn awoṣe, nigbagbogbo wọn ni awọn wakati FLOPS tabi GPU.

Fekito ti n fihan iye paramita kọọkan yẹ ki o yipada lati dinku pipadanu.

Kọ ẹkọ diẹ sii ninu awọn itọsọna ọfẹ wa

Attention Rollout and Head Pruning Structured Pruning and Layer Dropping Model Pruning

Wo tun

Prompt Injection Quantization Prompt Engineering RAG (Retrieval-Augmented Generation)Prompt Recall Pretraining Recommendation System

Ṣawakiri ni kikun AI Gilosari Ṣawari gbogbo awọn itọsọna AI ọfẹ