Rozhodování AI

Nejpravděpodobnější předpověď modelu není automaticky tím nejlepším rozhodnutím. Náklady na chyby a dostupné alternativy jsou důležité.

Klíčové věci

• Oddělená politika důkazů, predikcí a opatření.
• Zhodnoťte důsledky obou typů chyb.
• Udržte odpovědnost a postupy nápravy explicitní.

Oddělte fáze rozhodnutí. Identifikujte, co je pozorováno, co model odhaduje, které pravidlo promění odhad v akci a kdo je za výsledek odpovědný. To umožňuje napadnout důkazy nebo politiku nezávisle na modelu. Zhodnoťte jak směry chyb, tak možnost odložit výsledek. Falešný poplach může vést k přezkumu; přehlédnutá událost může problém nevyřešit. Vhodná hranice závisí na těchto důsledcích, kapacitě a spolehlivosti skóre. Zvažte, jak akce mění pozdější data. Pokud systém zaznamenává výsledky pouze pro vybrané případy, budoucí trénovací data mohou odrážet jeho vlastní minulá rozhodnutí. Zdánlivé zlepšení může být výsledkem změněného měření spíše než lepších rozhodnutí. Pro důsledná rozhodnutí zachovejte odpovídající odborný dohled, vysvětlení založená na skutečných důkazech a způsob, jak chyby opravit. Obecné prohlášení o spolehlivosti modelu nenahrazuje příslušnou politiku ani právo člověka zpochybnit výsledek. Otestujte celý pracovní postup za podmínek, ve kterých bude použit.

1. V ilustrativním úkolu monitorování zařízení stojí zbytečná inspekce 10 jednotek, zatímco chyba při selhání stojí 1 000 jednotek.
2. Práh zvolený pouze pro maximalizaci přesnosti tuto asymetrii ignoruje. Porovnejte očekávané důsledky pomocí ověřených pravděpodobností a reprezentativních výsledků.
3. Před výběrem pojistky zahrňte náklady a proveditelnost inspekce plus nejistotu ohledně těchto odhadů.

Tento vymyšlený příklad vysvětluje, proč rozhodnutí potřebuje více než jen nejpravděpodobnější třídu.