Término del glosario de IA

¿Qué es equipo rojo?

Definición

Poner a prueba un sistema de IA con indicaciones adversas para revelar fallas y riesgos.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Seguridad de la IAUn campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.Sistema de recomendaciónUn canal modelo que predice las preferencias de los usuarios para clasificar contenidos o productos.RobustezLa capacidad de un modelo para mantener el rendimiento bajo ruido, cambios o entradas adversas.AGI (Inteligencia General Artificial)Un hipotético sistema de IA que puede realizar la mayoría de las tareas intelectuales a nivel humano en muchos dominios.Agente de IAUn sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.Transparencia algorítmicaCon qué claridad están documentadas y son comprensibles la lógica, las fuentes de datos y las limitaciones de un sistema de IA.

Obtenga más información en nuestras guías gratuitas.

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

Véase también

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning