KI-Glossarbegriff

Was ist Leitplanken?

Definition

Regeln, Prüfungen und Kontrollen, die unsicheres oder unerwünschtes Modellverhalten begrenzen.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

KI-SicherheitEin Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.AlgorithmusEin definierter Satz von Regeln oder Schritten, die ein Computer befolgt, um ein Problem zu lösen oder eine Aufgabe abzuschließen.VoreingenommenheitEin konsistentes Muster von Fehlern oder Ungerechtigkeiten im Daten- oder Modellverhalten.ErklärbarkeitDer Grad, in dem das Verhalten eines Modells für Menschen interpretiert und erklärt werden kann.Few-Shot-LernenVerhalten aus nur wenigen Beispielen lernen oder anpassen.Verstärkungslernen aus menschlichem Feedback (RLHF)Eine Trainingsmethode, die menschliche Präferenzsignale nutzt, um Modellverhalten zu formen.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Siehe auch

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning