What is Safety Filter? Definition | AI Understanding

Definisi

Lapisan penyederhanaan yang menyekat atau menulis semula input atau output model yang tidak selamat.

Istilah berkaitan

Pembelajaran yang diselia

Melatih model dengan contoh berlabel yang memetakan input kepada output yang diketahui.

Kes Keselamatan

Hujah berstruktur, disokong oleh bukti, bahawa sistem AI selamat untuk konteks penggunaan yang ditentukan.

Kerja membuat sistem AI berkelakuan mengikut niat, nilai dan kekangan keselamatan manusia.

Bidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.

Ketidakadilan sistematik dalam output model yang disebabkan oleh data yang condong, andaian atau pilihan pemodelan.

Proses memberikan tag atau output sasaran kepada data mentah untuk pembelajaran diselia.

Ketahui lebih lanjut dalam panduan percuma kami

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

See also

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma