Termen de glosar AI

Ce este Jailbreak?

Definiție

O tehnică promptă menită să ocolească constrângerile de siguranță ale unui model.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Alinierea AILucrarea de a face sistemele AI să se comporte conform intențiilor umane, valorilor și constrângerilor de siguranță.Siguranța AIUn domeniu axat pe reducerea comportamentului dăunător, a eșecurilor și a riscurilor de utilizare greșită în sistemele AI.Învățare în contextCapacitatea unui model de a urma tipare din exemplele furnizate direct în prompt.Fișa modeluluiDocumentație care descrie utilizarea intenționată a unui model, valorile, limitările și riscurile.PromptInstrucțiunile de intrare și contextul furnizate unui model generativ.Prompt EngineeringProiectarea prompturilor pentru a îmbunătăți calitatea, fiabilitatea și controlabilitatea rezultatelor.

Aflați mai multe în ghidurile noastre gratuite

Jailbreaking and Red-Teaming

Vezi și

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing