KI-Glossarbegriff

Was ist Jailbreak?

Definition

Eine schnelle Technik, mit der die Sicherheitsbeschränkungen eines Modells umgangen werden sollen.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

KI-AusrichtungDie Arbeit, KI-Systeme dazu zu bringen, sich entsprechend den Absichten, Werten und Sicherheitsbeschränkungen des Menschen zu verhalten.KI-SicherheitEin Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.Lernen im KontextDie Fähigkeit eines Modells, Mustern anhand von Beispielen zu folgen, die direkt in der Eingabeaufforderung bereitgestellt werden.ModellkarteDokumentation, die den Verwendungszweck, die Metriken, Einschränkungen und Risiken eines Modells beschreibt.PromptDie Eingabeanweisungen und der Kontext, die einem generativen Modell bereitgestellt werden.Prompt EngineeringEntwerfen von Eingabeaufforderungen zur Verbesserung der Ausgabequalität, Zuverlässigkeit und Kontrollierbarkeit.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Jailbreaking and Red-Teaming

Siehe auch

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing