Kọ́ ẹ̀kọ́Ìròyìn Irinṣẹ́Iṣẹ́Iṣẹ́ wa

AI Gilosari Igba

Kí ni Pirege?

Itumọ

Yiyọ awọn iwuwo awoṣe ti ko ṣe pataki tabi awọn neuronu lati dinku iwọn ati iṣiro.

Ṣawakiri ni kikun AI Gilosari Ṣawari gbogbo awọn itọsọna AI ọfẹ

Sisun Window akiyesiApẹrẹ akiyesi nibiti ami ami kọọkan wa nikan si window iwọn ti o wa titi ti awọn ami ti o wa nitosi lati dinku iṣiro.Ofin iwọnIbasepo ti o ni agbara ti n fihan bi iṣẹ ṣe n dara si pẹlu iwọn awoṣe, data, tabi iṣiro.Distilled awoṣeAwoṣe ti o kere ju ikẹkọ lati ṣe afarawe ihuwasi awoṣe ti o tobi julọ lakoko lilo iṣiro kere si ni itọkasi.Itankalẹ afẹyintiAlgorithm ikẹkọ mojuto ti o ṣe imudojuiwọn awọn iwọn awoṣe nipasẹ didin awọn aṣiṣe asọtẹlẹ sẹhin nipasẹ nẹtiwọọki.Ṣe iṣiroAwọn orisun sisẹ ti o nilo lati ṣe ikẹkọ ati ṣiṣe awọn awoṣe, nigbagbogbo wọn ni awọn wakati FLOPS tabi GPU.IlọsiwajuFekito ti n fihan iye paramita kọọkan yẹ ki o yipada lati dinku pipadanu.

Kọ ẹkọ diẹ sii ninu awọn itọsọna ọfẹ wa

Attention Rollout and Head Pruning Structured Pruning and Layer Dropping Model Pruning

Wo tun

Prompt Injection Quantization Prompt Engineering RAG (Retrieval-Augmented Generation)Prompt Recall Pretraining Recommendation System