Istilah Glosari AI

Apakah Penapis Keselamatan?

Definisi

Lapisan penyederhanaan yang menyekat atau menulis semula input atau output model yang tidak selamat.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

Pembelajaran yang diseliaMelatih model dengan contoh berlabel yang memetakan input kepada output yang diketahui.Kes KeselamatanHujah berstruktur, disokong oleh bukti, bahawa sistem AI selamat untuk konteks penggunaan yang ditentukan.Penjajaran AIKerja membuat sistem AI berkelakuan mengikut niat, nilai dan kekangan keselamatan manusia.Keselamatan AIBidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.Bias AlgoritmaKetidakadilan sistematik dalam output model yang disebabkan oleh data yang condong, andaian atau pilihan pemodelan.Pelabelan DataProses memberikan tag atau output sasaran kepada data mentah untuk pembelajaran diselia.

Ketahui lebih lanjut dalam panduan percuma kami

AI SafetySource-Filter Vocoding and WORLDFilterbank and PLP FeaturesSpectral Subtraction and Wiener Filtering

Lihat juga

RobustnessScaling LawReward ModelSemantic SearchRetrievalSelf-Supervised LearningReinforcement Learning from Human Feedback (RLHF)Sentiment Analysis