Istilah Glosari AI

Apakah Pengawal?

Definisi

Peraturan, semakan dan kawalan yang mengehadkan tingkah laku model yang tidak selamat atau tidak diingini.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

Keselamatan AIBidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.AlgoritmaSatu set peraturan atau langkah yang ditetapkan yang dipatuhi oleh komputer untuk menyelesaikan masalah atau menyelesaikan tugas.berat sebelahCorak kesilapan atau ketidakadilan yang konsisten dalam data atau tingkah laku model.KebolehjelasanSejauh mana tingkah laku model boleh ditafsir dan dijelaskan kepada manusia.Pembelajaran Sedikit PukulanMempelajari atau menyesuaikan tingkah laku daripada hanya sebilangan kecil contoh.Pembelajaran Pengukuhan daripada Maklum Balas Manusia (RLHF)Kaedah latihan yang menggunakan isyarat keutamaan manusia untuk membentuk tingkah laku model.

Ketahui lebih lanjut dalam panduan percuma kami

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Lihat juga

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning