Término del glosario de IA

¿Qué es Barandillas?

Definición

Reglas, comprobaciones y controles que limitan el comportamiento inseguro o no deseado del modelo.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Seguridad de la IAUn campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.AlgoritmoUn conjunto definido de reglas o pasos que sigue una computadora para resolver un problema o completar una tarea.SesgoUn patrón constante de error o injusticia en los datos o el comportamiento del modelo.ExplicabilidadEl grado en que el comportamiento de un modelo puede interpretarse y explicarse a los humanos.Aprendizaje en pocas oportunidadesAprender o adaptar el comportamiento a partir de sólo un pequeño número de ejemplos.Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.

Obtenga más información en nuestras guías gratuitas.

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Véase también

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning