Termo do glossário de IA

O que é Filtro de segurança?

Definição

Uma camada de moderação que bloqueia ou reescreve entradas ou saídas inseguras do modelo.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

Aprendizagem SupervisionadaTreinar um modelo com exemplos rotulados que mapeiam entradas para saídas conhecidas.Caso de segurançaUm argumento estruturado, apoiado por evidências, de que um sistema de IA é seguro para um contexto de utilização definido.Alinhamento de IAO trabalho de fazer com que os sistemas de IA se comportem de acordo com as intenções, valores e restrições de segurança humanas.Segurança de IAUm campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.Viés AlgorítmicoInjustiça sistemática nos resultados do modelo causada por dados, suposições ou escolhas de modelagem distorcidas.Rotulagem de dadosO processo de atribuição de tags ou resultados alvo a dados brutos para aprendizagem supervisionada.

Saiba mais em nossos guias gratuitos

AI SafetySource-Filter Vocoding and WORLDFilterbank and PLP FeaturesSpectral Subtraction and Wiener Filtering

Veja também

RobustnessScaling LawReward ModelSemantic SearchRetrievalSelf-Supervised LearningReinforcement Learning from Human Feedback (RLHF)Sentiment Analysis