Término del glosario de IA

que es Barandillas?

Definición

Reglas, comprobaciones y controles que limitan el comportamiento inseguro o no deseado del modelo.

Términos relacionados

Seguridad de la IA
Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.
Algoritmo
Un conjunto definido de reglas o pasos que sigue una computadora para resolver un problema o completar una tarea.
Sesgo
Un patrón constante de error o injusticia en los datos o el comportamiento del modelo.
Explicabilidad
El grado en que el comportamiento de un modelo puede interpretarse y explicarse a los humanos.
Aprendizaje en pocas oportunidades
Aprender o adaptar el comportamiento a partir de sólo un pequeño número de ejemplos.
Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)
Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.

Obtenga más información en nuestras guías gratuitas.

Guardrails and Output ModerationAgent Guardrails

See also

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning
Explore el glosario completo de IAExplora todas las guías gratuitas de IA