What is Safety Filter? Definition | AI Understanding

Definisi

Lapisan moderasi yang memblokir atau menulis ulang input atau output model yang tidak aman.

Istilah terkait

Pembelajaran yang Diawasi

Melatih model dengan contoh berlabel yang memetakan masukan ke keluaran yang diketahui.

Argumen terstruktur, didukung oleh bukti, bahwa sistem AI aman untuk konteks penggunaan tertentu.

Penyelarasan AI

Pekerjaan membuat sistem AI berperilaku sesuai dengan niat manusia, nilai-nilai, dan batasan keselamatan.

Bidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.

Bias Algoritmik

Ketidakadilan sistematis dalam keluaran model yang disebabkan oleh ketidakseimbangan data, asumsi, atau pilihan pemodelan.

Proses menetapkan tag atau keluaran target ke data mentah untuk pembelajaran yang diawasi.

Pelajari lebih lanjut di panduan gratis kami

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

See also

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis