KI-Glossarbegriff

Was ist Rotes Teaming?

Definition

Stresstest eines KI-Systems mit gegnerischen Eingabeaufforderungen, um Fehler und Risiken aufzudecken.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

KI-SicherheitEin Bereich, der sich auf die Reduzierung schädlichen Verhaltens, Ausfällen und Missbrauchsrisiken in KI-Systemen konzentriert.EmpfehlungssystemEine Modellpipeline, die Benutzerpräferenzen für das Ranking von Inhalten oder Produkten vorhersagt.RobustheitDie Fähigkeit eines Modells, die Leistung unter Rauschen, Verschiebungen oder widersprüchlichen Eingaben aufrechtzuerhalten.AGI (Künstliche Allgemeine Intelligenz)Ein hypothetisches KI-System, das die meisten intellektuellen Aufgaben in vielen Bereichen auf menschlicher Ebene ausführen kann.KI-AgentEin Softwaresystem, das beobachten, schlussfolgern und Maßnahmen ergreifen kann, um ein Ziel zu erreichen, häufig unter Einsatz von Werkzeugen und Gedächtnis.Algorithmische TransparenzWie klar die Logik, Datenquellen und Einschränkungen eines KI-Systems dokumentiert und verständlich sind.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

Siehe auch

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning