O que é Fuga de presos?

O trabalho de fazer com que os sistemas de IA se comportem de acordo com as intenções, valores e restrições de segurança humanas.

Um campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.

A capacidade de um modelo de seguir padrões de exemplos fornecidos diretamente no prompt.

Documentação que descreve o uso pretendido, métricas, limitações e riscos de um modelo.

As instruções de entrada e o contexto fornecidos a um modelo generativo.

Projetar prompts para melhorar a qualidade, confiabilidade e controlabilidade da saída.