Cos'è Jailbreak?

Il lavoro volto a far sì che i sistemi di intelligenza artificiale si comportino secondo le intenzioni, i valori e i vincoli di sicurezza umani.

Un campo incentrato sulla riduzione di comportamenti dannosi, guasti e rischi di uso improprio nei sistemi di intelligenza artificiale.

La capacità di un modello di seguire modelli tratti da esempi forniti direttamente nel prompt.

Documentazione che descrive l'uso previsto, le metriche, le limitazioni e i rischi di un modello.

Le istruzioni di input e il contesto forniti a un modello generativo.

Progettazione di istruzioni per migliorare la qualità, l'affidabilità e la controllabilità dell'output.