Término del glosario de IA

¿Qué es Seguridad de la IA?

Definición

Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Alineación de IAEl trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.Inteligencia artificial (IA)El amplio campo de la construcción de sistemas que realizan tareas que requieren reconocimiento de patrones, razonamiento, lenguaje o toma de decisiones.equipo rojoPoner a prueba un sistema de IA con indicaciones adversas para revelar fallas y riesgos.Ley de IAEl marco regulatorio basado en riesgos de la Unión Europea para sistemas y proveedores de IA.Impuesto de alineaciónEl costo adicional en tiempo, computación o velocidad del producto requerido para hacer que los sistemas sean más seguros y controlables.SesgoUn patrón constante de error o injusticia en los datos o el comportamiento del modelo.

Obtenga más información en nuestras guías gratuitas.

AI SafetyAI in Drug Safety and PharmacovigilanceFrontier AI Safety Frameworks and Responsible Scaling PoliciesAI Safety Institutes Around the World

Véase también

AI GovernanceAlgorithmAlgorithmic BiasAI AgentAlgorithmic TransparencyAGI (Artificial General Intelligence)AnnotationAPI (Application Programming Interface)