Término del glosario de IA

que es equipo rojo?

Definición

Poner a prueba un sistema de IA con indicaciones adversas para revelar fallas y riesgos.

Términos relacionados

Seguridad de la IA
Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.
Sistema de recomendación
Un canal modelo que predice las preferencias de los usuarios para clasificar contenidos o productos.
Robustez
La capacidad de un modelo para mantener el rendimiento bajo ruido, cambios o entradas adversas.
AGI (Inteligencia General Artificial)
Un hipotético sistema de IA que puede realizar la mayoría de las tareas intelectuales a nivel humano en muchos dominios.
Agente de IA
Un sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.
Transparencia algorítmica
Con qué claridad están documentadas y son comprensibles la lógica, las fuentes de datos y las limitaciones de un sistema de IA.

Obtenga más información en nuestras guías gratuitas.

Predictive AIStructured OutputsBarlow Twins and Redundancy ReductionAI in Protein Structure Prediction

See also

Reinforcement LearningRecallReinforcement Learning from Human Feedback (RLHF)RAG (Retrieval-Augmented Generation)RetrievalQuantizationReward ModelPruning
Explore el glosario completo de IAExplora todas las guías gratuitas de IA