Qu'est-ce que Sécurité de l'IA?

Le travail consistant à faire en sorte que les systèmes d’IA se comportent conformément aux intentions, aux valeurs et aux contraintes de sécurité humaines.

Le vaste domaine de la construction de systèmes qui exécutent des tâches nécessitant une reconnaissance de formes, un raisonnement, un langage ou une prise de décision.

Testez sous contrainte un système d’IA avec des invites contradictoires pour révéler les échecs et les risques.

Le cadre réglementaire de l'Union européenne basé sur les risques pour les systèmes et les fournisseurs d'IA.

Le coût supplémentaire en temps, en calcul ou en vitesse du produit nécessaire pour rendre les systèmes plus sûrs et plus contrôlables.

Un modèle cohérent d'erreur ou d'injustice dans le comportement des données ou du modèle.