Término del glosario de IA

¿Qué es Alineación de IA?

Definición

El trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Seguridad de la IAUn campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.Inteligencia artificial (IA)El amplio campo de la construcción de sistemas que realizan tareas que requieren reconocimiento de patrones, razonamiento, lenguaje o toma de decisiones.Impuesto de alineaciónEl costo adicional en tiempo, computación o velocidad del producto requerido para hacer que los sistemas sean más seguros y controlables.fuga de la cárcelUna técnica rápida destinada a eludir las limitaciones de seguridad de un modelo.AGI (Inteligencia General Artificial)Un hipotético sistema de IA que puede realizar la mayoría de las tareas intelectuales a nivel humano en muchos dominios.AnotaciónEtiquetas o metadatos agregados por humanos que se utilizan para entrenar o evaluar modelos de aprendizaje automático.

Obtenga más información en nuestras guías gratuitas.

AI AlignmentGlow-TTS Monotonic AlignmentWhisper Timestamped Word AlignmentForced Alignment

Véase también

AI AgentAI GovernanceAlgorithmAlgorithmic BiasAlgorithmic TransparencyAPI (Application Programming Interface)Attention MechanismAutonomous System