Término del glosario de IA

¿Qué es fuga de la cárcel?

Definición

Una técnica rápida destinada a eludir las limitaciones de seguridad de un modelo.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Alineación de IAEl trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.Seguridad de la IAUn campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.Aprendizaje en contextoLa capacidad de un modelo para seguir patrones a partir de ejemplos proporcionados directamente en el mensaje.Tarjeta modeloDocumentación que describe el uso previsto, las métricas, las limitaciones y los riesgos de un modelo.rápidoLas instrucciones de entrada y el contexto proporcionados a un modelo generativo.Prompt EngineeringDiseño de indicaciones para mejorar la calidad, confiabilidad y controlabilidad de la salida.

Obtenga más información en nuestras guías gratuitas.

Jailbreaking and Red-Teaming

Véase también

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing