KI-Glossarbegriff

Was ist Rotes Teaming?

Definition

Stresstest eines KI-Systems mit gegnerischen Eingabeaufforderungen, um Fehler und Risiken aufzudecken.

Verwandte Begriffe

KI-Sicherheit
Ein Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.
Empfehlungssystem
Eine Modellpipeline, die Benutzerpräferenzen für das Ranking von Inhalten oder Produkten vorhersagt.
Robustheit
Die Fähigkeit eines Modells, die Leistung unter Rauschen, Verschiebungen oder widersprüchlichen Eingaben aufrechtzuerhalten.
AGI (Künstliche Allgemeine Intelligenz)
Ein hypothetisches KI-System, das die meisten intellektuellen Aufgaben in vielen Bereichen auf menschlicher Ebene ausführen kann.
KI-Agent
Ein Softwaresystem, das beobachten, schlussfolgern und Maßnahmen ergreifen kann, um ein Ziel zu erreichen, häufig unter Einsatz von Werkzeugen und Gedächtnis.
Algorithmische Transparenz
Wie klar die Logik, Datenquellen und Einschränkungen eines KI-Systems dokumentiert und verständlich sind.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

See also

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning
Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen