KI-Glossarbegriff

Was ist Jailbreak?

Definition

Eine schnelle Technik, mit der die Sicherheitsbeschränkungen eines Modells umgangen werden sollen.

Verwandte Begriffe

KI-Ausrichtung
Die Arbeit, KI-Systeme dazu zu bringen, sich entsprechend den Absichten, Werten und Sicherheitsbeschränkungen des Menschen zu verhalten.
KI-Sicherheit
Ein Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.
Lernen im Kontext
Die Fähigkeit eines Modells, Mustern anhand von Beispielen zu folgen, die direkt in der Eingabeaufforderung bereitgestellt werden.
Modellkarte
Dokumentation, die den Verwendungszweck, die Metriken, Einschränkungen und Risiken eines Modells beschreibt.
Prompt
Die Eingabeanweisungen und der Kontext, die einem generativen Modell bereitgestellt werden.
Prompt Engineering
Entwerfen von Eingabeaufforderungen zur Verbesserung der Ausgabequalität, Zuverlässigkeit und Kontrollierbarkeit.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Jailbreaking and Red-Teaming

See also

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing
Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen