Terme du glossaire IA

Qu’est-ce que Garde-corps ?

Définition

Règles, vérifications et contrôles qui limitent les comportements dangereux ou indésirables du modèle.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Sécurité de l'IAUn domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.AlgorithmeEnsemble défini de règles ou d'étapes qu'un ordinateur suit pour résoudre un problème ou accomplir une tâche.BiaisUn modèle cohérent d'erreur ou d'injustice dans le comportement des données ou du modèle.ExplicabilitéLe degré auquel le comportement d'un modèle peut être interprété et expliqué aux humains.Apprentissage en quelques coupsApprendre ou adapter un comportement à partir d’un petit nombre d’exemples seulement.Apprentissage par renforcement à partir de la rétroaction humaine (RLHF)Une méthode de formation qui utilise les signaux de préférence humaine pour façonner le comportement du modèle.

Apprenez-en davantage dans nos guides gratuits

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Voir aussi

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning