Termo do glossário de IA

O que é Fuga de presos?

Definição

Uma técnica imediata destinada a contornar as restrições de segurança de um modelo.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

Alinhamento de IAO trabalho de fazer com que os sistemas de IA se comportem de acordo com as intenções, valores e restrições de segurança humanas.Segurança de IAUm campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.Aprendizagem em contextoA capacidade de um modelo de seguir padrões de exemplos fornecidos diretamente no prompt.Cartão ModeloDocumentação que descreve o uso pretendido, métricas, limitações e riscos de um modelo.AlertaAs instruções de entrada e o contexto fornecidos a um modelo generativo.Prompt EngineeringProjetar prompts para melhorar a qualidade, confiabilidade e controlabilidade da saída.

Saiba mais em nossos guias gratuitos

Jailbreaking and Red-Teaming

Veja também

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing