DalšíDalší průvodce
GDPR a automatizované rozhodování
Společnost
PRŮVODCE Základy
AI může poskytovat předpovědi, organizovat důkazy nebo doporučovat akce, ale výběr akce vyžaduje také cíle, omezení a odpovědnost.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Nejpravděpodobnější předpověď modelu není automaticky tím nejlepším rozhodnutím. Náklady na chyby a dostupné alternativy jsou důležité.
Oddělte fáze rozhodnutí. Identifikujte, co je pozorováno, co model odhaduje, které pravidlo promění odhad v akci a kdo je za výsledek odpovědný. To umožňuje napadnout důkazy nebo politiku nezávisle na modelu. Zhodnoťte jak směry chyb, tak možnost odložit výsledek. Falešný poplach může vést k přezkumu; přehlédnutá událost může problém nevyřešit. Vhodná hranice závisí na těchto důsledcích, kapacitě a spolehlivosti skóre. Zvažte, jak akce mění pozdější data. Pokud systém zaznamenává výsledky pouze pro vybrané případy, budoucí trénovací data mohou odrážet jeho vlastní minulá rozhodnutí. Zdánlivé zlepšení může být výsledkem změněného měření spíše než lepších rozhodnutí. Pro důsledná rozhodnutí zachovejte odpovídající odborný dohled, vysvětlení založená na skutečných důkazech a způsob, jak chyby opravit. Obecné prohlášení o spolehlivosti modelu nenahrazuje příslušnou politiku ani právo člověka zpochybnit výsledek. Otestujte celý pracovní postup za podmínek, ve kterých bude použit.
04Zpracovaný příklad
V ilustrativním úkolu monitorování zařízení stojí zbytečná inspekce 10 jednotek, zatímco chyba při selhání stojí 1 000 jednotek.
Práh zvolený pouze pro maximalizaci přesnosti tuto asymetrii ignoruje. Porovnejte očekávané důsledky pomocí ověřených pravděpodobností a reprezentativních výsledků.
Před výběrem pojistky zahrňte náklady a proveditelnost inspekce plus nejistotu ohledně těchto odhadů.
Co ukazuje
Tento vymyšlený příklad vysvětluje, proč rozhodnutí potřebuje více než jen nejpravděpodobnější třídu.
Použijte odhad poptávky jako jeden vstup do zásobní politiky s omezeními skladování a nedostatku.
Nechte klasifikátor upřednostnit přezkoumání, přičemž si zachová jasnou cestu k opravám.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Pouze pokud byla celá akční politika vyhodnocena pro dané použití, včetně spolehlivosti skóre, důsledků, pravomocí a řešení selhání.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
GDPR a automatizované rozhodování
Společnost