What is Safety Filter? Definition | AI Understanding

Définition

Une couche de modération qui bloque ou réécrit les entrées ou sorties dangereuses du modèle.

Termes associés

Apprentissage supervisé

Entraîner un modèle avec des exemples étiquetés qui mappent les entrées aux sorties connues.

Dossier de sécurité

Un argument structuré, étayé par des preuves, selon lequel un système d’IA est sûr pour un contexte d’utilisation défini.

Alignement de l'IA

Le travail consistant à faire en sorte que les systèmes d’IA se comportent conformément aux intentions, aux valeurs et aux contraintes de sécurité humaines.

Sécurité de l'IA

Un domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.

Biais algorithmique

Iniquité systématique dans les résultats du modèle causée par des données, des hypothèses ou des choix de modélisation biaisés.

Étiquetage des données

Processus d'attribution de balises ou de sorties cibles à des données brutes pour un apprentissage supervisé.

Apprenez-en davantage dans nos guides gratuits

AI Safety Source-Filter Vocoding and WORLD Filterbank and PLP Features Spectral Subtraction and Wiener Filtering

Voir aussi

Robustness Scaling Law Reward Model Semantic Search Retrieval Self-Supervised Learning Reinforcement Learning from Human Feedback (RLHF)Sentiment Analysis

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA