What is Red Teaming? Definition | AI Understanding

Definitie

Een AI-systeem stresstesten met vijandige aanwijzingen om fouten en risico's aan het licht te brengen.

Gerelateerde termen

Een vakgebied dat zich richt op het verminderen van schadelijk gedrag, mislukkingen en misbruikrisico's in AI-systemen.

Aanbevelingssysteem

Een modelpijplijn die gebruikersvoorkeuren voorspelt voor het rangschikken van inhoud of producten.

Het vermogen van een model om de prestaties te behouden onder ruis, verschuivingen of vijandige input.

AGI (kunstmatige algemene intelligentie)

Een hypothetisch AI-systeem dat de meeste intellectuele taken op menselijk niveau in vele domeinen kan uitvoeren.

Een softwaresysteem dat kan observeren, redeneren en actie kan ondernemen om een doel te bereiken, vaak met behulp van tools en geheugen.

Algoritmische transparantie

Hoe duidelijk de logica, gegevensbronnen en beperkingen van een AI-systeem zijn gedocumenteerd en begrijpelijk.

Lees meer in onze gratis handleidingen

Predictive AI Structured Outputs Barlow Twins and Redundancy Reduction AI in Protein Structure Prediction

See also

Reinforcement Learning Recall Reinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)Retrieval Quantization Reward Model Pruning

Blader door de volledige AI-woordenlijst Ontdek alle gratis AI-gidsen