Istilah Glosarium AI

Apa itu Pagar pembatas?

Definisi

Aturan, pemeriksaan, dan kontrol yang membatasi perilaku model yang tidak aman atau tidak diinginkan.

Jelajahi Glosarium AI selengkapnyaJelajahi semua panduan AI gratis

Istilah terkait

Keamanan AIBidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.AlgoritmaSeperangkat aturan atau langkah yang diikuti komputer untuk memecahkan masalah atau menyelesaikan tugas.BiasPola kesalahan atau ketidakadilan yang konsisten dalam data atau perilaku model.PenjelasanSejauh mana perilaku model dapat diinterpretasikan dan dijelaskan kepada manusia.Pembelajaran Sedikit-TembakanMempelajari atau mengadaptasi perilaku hanya dari sejumlah kecil contoh.Pembelajaran Penguatan dari Umpan Balik Manusia (RLHF)Sebuah metode pelatihan yang menggunakan sinyal preferensi manusia untuk membentuk perilaku model.

Pelajari lebih lanjut di panduan gratis kami

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Lihat juga

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning