VolgendeVolgende gids
AVG en geautomatiseerde besluitvorming
Samenleving
Basisprincipes GIDS
AI kan voorspellingen doen, bewijsmateriaal ordenen of acties aanbevelen, maar het kiezen van een actie vereist ook doelen, beperkingen en verantwoordelijkheid.
Luister naar deze gidsAI-verteld · ~2 min
De meest waarschijnlijke voorspelling van een model is niet automatisch de beste beslissing. De kosten van fouten en de beschikbare alternatieven zijn van belang.
Scheid de fasen van de beslissing. Identificeer wat er wordt waargenomen, wat het model schat, welke regel die schatting omzet in een actie en wie verantwoordelijk is voor het resultaat. Dit maakt het mogelijk om het bewijsmateriaal of het beleid onafhankelijk van het model in twijfel te trekken. Evalueer beide foutrichtingen en de optie om uit te stellen. Een vals alarm kan tot beoordelingswerk leiden; een gemiste gebeurtenis kan een probleem onopgelost laten. De juiste drempel hangt af van die gevolgen, het vermogen en de betrouwbaarheid van de score. Bedenk hoe de actie latere gegevens verandert. Als een systeem alleen de resultaten registreert voor de gevallen die het selecteert, kunnen toekomstige trainingsgegevens de eigen keuzes uit het verleden weerspiegelen. Schijnbare verbetering kan het gevolg zijn van gewijzigde metingen in plaats van betere beslissingen. Voor vervolgbeslissingen moet u het juiste deskundige toezicht behouden, uitleg gebaseerd op feitelijk bewijsmateriaal en een manier om fouten te corrigeren. Een generieke modelvertrouwensverklaring is geen vervanging voor toepasselijk beleid of het recht van een persoon om een uitkomst in twijfel te trekken. Test de volledige workflow onder de omstandigheden waarin deze zal worden gebruikt.
04Uitgewerkt voorbeeld
Bij een illustratieve taak voor het monitoren van apparatuur kost een onnodige inspectie 10 eenheden, terwijl het missen van een storing 1.000 eenheden kost.
Een drempel die alleen is geselecteerd om de nauwkeurigheid te maximaliseren, negeert deze asymmetrie. Vergelijk de verwachte gevolgen met behulp van gevalideerde kansen en representatieve uitkomsten.
Neem de kosten en haalbaarheid van inspectie op, plus de onzekerheid over die schattingen, voordat u een beleid kiest.
Wat het laat zien
Dit verzonnen voorbeeld legt uit waarom een beslissing meer nodig heeft dan de meest waarschijnlijke klasse.
Gebruik een vraagschatting als input voor een voorraadbeleid met opslag- en tekortbeperkingen.
Laat een classificator beoordeling prioriteit geven, terwijl een duidelijk correctiepad behouden blijft.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Alleen als het volledige actiebeleid voor dat gebruik is geëvalueerd, inclusief scorebetrouwbaarheid, gevolgen, autoriteit en foutafhandeling.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
AVG en geautomatiseerde besluitvorming
Samenleving