Istilah Glosari AI

Apakah Pemangkasan?

Definisi

Mengalih keluar pemberat model atau neuron yang kurang penting untuk mengurangkan saiz dan mengira.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

Perhatian Tingkap GelongsorCorak perhatian di mana setiap token hadir hanya pada tetingkap saiz tetap token berdekatan untuk mengurangkan pengiraan.Undang-undang SkalaHubungan empirikal yang menunjukkan cara prestasi bertambah baik dengan saiz model, data atau pengiraan.Model SulingModel yang lebih kecil dilatih untuk meniru tingkah laku model yang lebih besar sambil menggunakan kurang pengiraan pada inferens.Penyebaran balikAlgoritma latihan teras yang mengemas kini berat model dengan menyebarkan ralat ramalan ke belakang melalui rangkaian.KiraSumber pemprosesan yang diperlukan untuk melatih dan menjalankan model, selalunya diukur dalam jam FLOPS atau GPU.KecerunanVektor yang menunjukkan berapa banyak setiap parameter harus berubah untuk mengurangkan kerugian.

Ketahui lebih lanjut dalam panduan percuma kami

Attention Rollout and Head PruningStructured Pruning and Layer DroppingModel Pruning

Lihat juga

Prompt InjectionQuantizationPrompt EngineeringRAG (Retrieval-Augmented Generation)PromptRecallPretrainingRecommendation System