Questionário sobre proteções e moderação de saída

As respostas e explicações aparecem conforme você responde ao teste.

1. O que são proteções no contexto de um modelo de linguagem?
   • Verificações de segurança que mantêm as entradas e saídas dentro dos limites aceitáveis
   • Bordas decorativas ao redor da janela de bate-papo
   • Uma maneira de fazer o modelo responder mais rápido
   • Hardware que resfria os servidores
2. O que a 'moderação de produção' inspeciona especificamente?
   • A eletricidade utilizada pelo modelo
   • O texto que o modelo produziu, antes de chegar ao usuário
   • A velocidade de digitação do usuário
   • O esquema de cores da interface
3. Qual é um exemplo de guarda-corpo no lado da entrada?
   • Traduzindo a resposta para o espanhol
   • Aumentando a fonte
   • Filtrando uma tentativa de injeção imediata antes que ela chegue ao modelo
   • Adicionando citações à resposta
4. Por que é mais difícil moderar as respostas de streaming (token por token)?
   • Streaming usa mais cores
   • O streaming desativa todos os classificadores
   • Os usuários não podem ler o texto transmitido
   • O texto é mostrado à medida que é gerado, portanto, conteúdo prejudicial pode aparecer antes de uma verificação completa
5. Qual é o principal equilíbrio que os engenheiros de guarda-corpo devem atingir?
   • Capturar resultados prejudiciais e, ao mesmo tempo, minimizar falsos positivos em solicitações legítimas
   • Tornando o modelo o mais lento possível
   • Bloqueando cada resposta
   • Removendo todos os registros
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps