Istilah Glosarium AI

Apa itu Gradien?

Definisi

Vektor yang menunjukkan seberapa banyak setiap parameter harus diubah untuk mengurangi kerugian.

Jelajahi Glosarium AI selengkapnyaJelajahi semua panduan AI gratis

Istilah terkait

Kecepatan PembelajaranHyperparameter pelatihan yang mengontrol seberapa banyak parameter berubah setiap langkah pembaruan.Hukum PenskalaanHubungan empiris yang menunjukkan bagaimana performa meningkat seiring dengan ukuran model, data, atau komputasi.Perhatian Jendela GeserPola perhatian di mana setiap token hanya memperhatikan jendela berukuran tetap dari token terdekat untuk mengurangi komputasi.GAN (Jaringan Adversarial Generatif)Pengaturan generatif di mana generator dan diskriminator berlatih satu sama lain.GeneralisasiSeberapa baik performa model pada data baru yang tidak terlihat di luar set pelatihan.Penurunan GradienMetode optimasi yang memperbarui parameter ke arah yang mengurangi kesalahan.

Pelajari lebih lanjut di panduan gratis kami

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Lihat juga

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning