que es fuga de la cárcel?

El trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.

Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.

La capacidad de un modelo para seguir patrones a partir de ejemplos proporcionados directamente en el mensaje.

Documentación que describe el uso previsto, las métricas, las limitaciones y los riesgos de un modelo.

Las instrucciones de entrada y el contexto proporcionados a un modelo generativo.

Diseño de indicaciones para mejorar la calidad, confiabilidad y controlabilidad de la salida.