Tomada de decisões de IA

Separe as etapas da decisão. Identifique o que é observado, o que o modelo estima, que regra transforma essa estimativa em uma ação e quem é o responsável pelo resultado. Isto torna possível contestar as evidências ou a política independentemente do modelo. Avalie as direções do erro e a opção de adiar. Um alarme falso pode gerar trabalho de revisão; um evento perdido pode deixar um problema sem solução. O limite apropriado depende dessas consequências, da capacidade e da confiabilidade da pontuação. Considere como a ação altera os dados posteriores. Se um sistema regista apenas os resultados dos casos que seleciona, os dados de formação futuros podem refletir as suas próprias escolhas passadas. A melhoria aparente pode resultar de medidas alteradas e não de melhores decisões. Para decisões com consequências, mantenha a supervisão especializada adequada, explicações baseadas em evidências reais e uma forma de corrigir erros. Um modelo genérico de declaração de confiança não substitui uma política aplicável ou o direito de uma pessoa questionar um resultado. Teste o fluxo de trabalho completo nas condições em que será usado.