Qu'est-ce que Jailbreak?

Le travail consistant à faire en sorte que les systèmes d’IA se comportent conformément aux intentions, aux valeurs et aux contraintes de sécurité humaines.

Un domaine axé sur la réduction des comportements nuisibles, des pannes et des risques d’utilisation abusive des systèmes d’IA.

Capacité d'un modèle à suivre des modèles à partir d'exemples fournis directement dans l'invite.

Documentation décrivant l'utilisation prévue d'un modèle, les mesures, les limites et les risques.

Les instructions d'entrée et le contexte fournis à un modèle génératif.

Concevoir des invites pour améliorer la qualité, la fiabilité et la contrôlabilité de la sortie.