O que é Filtro de segurança?

Treinar um modelo com exemplos rotulados que mapeiam entradas para saídas conhecidas.

Um argumento estruturado, apoiado por evidências, de que um sistema de IA é seguro para um contexto de utilização definido.

O trabalho de fazer com que os sistemas de IA se comportem de acordo com as intenções, valores e restrições de segurança humanas.

Um campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.

Injustiça sistemática nos resultados do modelo causada por dados, suposições ou escolhas de modelagem distorcidas.

O processo de atribuição de tags ou resultados alvo a dados brutos para aprendizagem supervisionada.