Questionário vinculado ao guia · Médio Nível
Questionário sobre Guardrails do agente
Avalie filtros de saída e entrada, ferramentas de privilégio mínimo, red teaming, monitoramento NIST e os limites dos controles de segurança.
Pergunta 1 de 8
Qual é o objetivo principal das grades de proteção dos agentes?
Visualize cada pergunta8 perguntas
As respostas e explicações aparecem conforme você responde ao teste.
- Qual é o objetivo principal das grades de proteção dos agentes?
- Para restringir o que um agente pode fazer, dizer ou acessar para segurança e conformidade
- Para fazer com que os agentes respondam mais lentamente
- Para aumentar o vocabulário do agente
- Para substituir totalmente o modelo subjacente
- O que um 'guarda-corpo de saída' normalmente faz?
- Exibe apenas solicitações recebidas do usuário
- Verifica as respostas do agente em busca de conteúdo tóxico, falso ou não conforme antes da entrega
- Acelera o treinamento do modelo
- Concede ao agente mais acesso à ferramenta
- Como o “princípio do menor privilégio” se aplica às barreiras de proteção da ação?
- O agente recebe todas as permissões possíveis
- O agente não deve pedir permissão para nada
- O agente obtém apenas ferramentas, chaves e limites de escopo restrito de que necessita
- O agente recebe acesso de administrador por conveniência
- Para que serve um modelo de 'juiz' ou validador em guarda-corpos?
- Para gerar as principais respostas do agente
- Para armazenar senhas de usuários
- Para traduzir apenas idiomas
- Para avaliar ou verificar os resultados do agente quanto à segurança ou precisão
- Por que é importante testar proteções contra entradas adversárias?
- Como os invasores tentam jailbreaks, as proteções devem ser investigadas, em vez de serem confiadas cegamente
- Isso torna o agente mais lento de propósito
- Elimina a necessidade de quaisquer regras
- Garante que o modelo nunca cometa erros
- Qual exemplo mostra uma proteção de ação eficaz?
- Um agente de compras sem limite de gastos
- Um agente de compras com um limite rígido de US$ 100 por transação aplicado fora do modelo
- Um agente que pode executar qualquer comando que desejar
- Um agente que ignora todas as permissões
- What does NIST’s Generative AI Profile say content filters can do?
- Guarantee that all false or harmful content is removed
- Verify that every generated answer is factually correct
- Use rule-based or machine-learning methods to flag problematic inputs and outputs
- Replace all post-deployment monitoring
- What can a NIST post-deployment monitoring plan include for generative AI?
- A guarantee that all outputs will be safe
- A replacement for pre-deployment testing
- An instruction to ignore user-reported issues
- Mechanisms to capture user input and support appeal, override, incident response, and updates