What is Red Teaming? Definition | AI Understanding

Definice

Zátěžové testování systému AI s nepřátelskými výzvami k odhalení selhání a rizik.

Související pojmy

Oblast zaměřená na snižování škodlivého chování, selhání a rizik zneužití v systémech umělé inteligence.

Systém doporučení

Modelový kanál, který předpovídá preference uživatelů pro hodnocení obsahu nebo produktů.

Schopnost modelu udržovat výkon pod hlukem, posuny nebo nepříznivými vstupy.

AGI (obecná umělá inteligence)

Hypotetický systém umělé inteligence, který může provádět většinu intelektuálních úkolů na lidské úrovni v mnoha oblastech.

Softwarový systém, který dokáže pozorovat, uvažovat a podnikat kroky k dosažení cíle, často pomocí nástrojů a paměti.

Algoritmická transparentnost

Jak jasně jsou zdokumentovány a srozumitelné logika systému AI, zdroje dat a omezení.

Více se dozvíte v našich bezplatných průvodcích

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

Viz také

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI