Término del glosario de IA

que es Alineación de IA?

Definición

El trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.

Términos relacionados

Seguridad de la IA
Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.
Inteligencia artificial (IA)
El amplio campo de la construcción de sistemas que realizan tareas que requieren reconocimiento de patrones, razonamiento, lenguaje o toma de decisiones.
Impuesto de alineación
El costo adicional en tiempo, computación o velocidad del producto requerido para hacer que los sistemas sean más seguros y controlables.
fuga de la cárcel
Una técnica rápida destinada a eludir las limitaciones de seguridad de un modelo.
AGI (Inteligencia General Artificial)
Un hipotético sistema de IA que puede realizar la mayoría de las tareas intelectuales a nivel humano en muchos dominios.
Anotación
Etiquetas o metadatos agregados por humanos que se utilizan para entrenar o evaluar modelos de aprendizaje automático.

Obtenga más información en nuestras guías gratuitas.

AI AlignmentGlow-TTS Monotonic AlignmentWhisper Timestamped Word AlignmentForced Alignment

See also

AI AgentAI GovernanceAlgorithmAlgorithmic BiasAlgorithmic TransparencyAPI (Application Programming Interface)Attention MechanismAutonomous System
Explore el glosario completo de IAExplora todas las guías gratuitas de IA