Termo do glossário de IA

O que é Guarda-corpos?

Definição

Regras, verificações e controles que limitam o comportamento inseguro ou indesejado do modelo.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

Segurança de IAUm campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.AlgoritmoUm conjunto definido de regras ou etapas que um computador segue para resolver um problema ou concluir uma tarefa.ViésUm padrão consistente de erro ou injustiça nos dados ou no comportamento do modelo.ExplicabilidadeO grau em que o comportamento de um modelo pode ser interpretado e explicado aos humanos.Aprendizagem rápidaAprender ou adaptar comportamento a partir de apenas um pequeno número de exemplos.Aprendizagem por Reforço com Feedback Humano (RLHF)Um método de treinamento que usa sinais de preferência humana para moldar o comportamento do modelo.

Saiba mais em nossos guias gratuitos

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

Veja também

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning