Terme du glossaire IA

Qu'est-ce que Équipe rouge?

Définition

Testez sous contrainte un système d’IA avec des invites contradictoires pour révéler les échecs et les risques.

Termes associés

Sécurité de l'IA
Un domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.
Système de recommandation
Un pipeline de modèle qui prédit les préférences des utilisateurs en matière de classement du contenu ou des produits.
Robustesse
Capacité d'un modèle à maintenir ses performances malgré le bruit, les changements ou les entrées contradictoires.
AGI (Intelligence Générale Artificielle)
Un système d’IA hypothétique capable d’effectuer la plupart des tâches intellectuelles au niveau humain dans de nombreux domaines.
Agent IA
Un système logiciel capable d'observer, de raisonner et de prendre des mesures pour atteindre un objectif, souvent en utilisant des outils et de la mémoire.
Transparence algorithmique
Dans quelle mesure la logique, les sources de données et les limites d'un système d'IA sont documentées et compréhensibles.

Apprenez-en davantage dans nos guides gratuits

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

Voir aussi

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning
Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA