Terme du glossaire IA

Qu’est-ce que Filtre de sécurité ?

Définition

Une couche de modération qui bloque ou réécrit les entrées ou sorties dangereuses du modèle.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Apprentissage superviséEntraîner un modèle avec des exemples étiquetés qui mappent les entrées aux sorties connues.Dossier de sécuritéUn argument structuré, étayé par des preuves, selon lequel un système d’IA est sûr pour un contexte d’utilisation défini.Alignement de l'IALe travail consistant à faire en sorte que les systèmes d’IA se comportent conformément aux intentions, aux valeurs et aux contraintes de sécurité humaines.Sécurité de l'IAUn domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.Biais algorithmiqueIniquité systématique dans les résultats du modèle causée par des données, des hypothèses ou des choix de modélisation biaisés.Étiquetage des donnéesProcessus d'attribution de balises ou de sorties cibles à des données brutes pour un apprentissage supervisé.

Apprenez-en davantage dans nos guides gratuits

AI SafetySource-Filter Vocoding and WORLDFilterbank and PLP FeaturesSpectral Subtraction and Wiener Filtering

Voir aussi

RobustnessScaling LawReward ModelSemantic SearchRetrievalSelf-Supervised LearningReinforcement Learning from Human Feedback (RLHF)Sentiment Analysis