VolgendeVolgende in Verantwoordelijke AI-gebruiker
AI en privacy
Samenleving
Gids voor de samenleving
AI-vooroordelen kunnen voortkomen uit data, metingen, modelleringskeuzes, menselijke oordelen en het bredere systeem waarin een model wordt gebruikt.
Luister naar deze gidsAI-verteld · ~2 min
Sommige patronen kunnen oneerlijke of schadelijke resultaten opleveren. Het evalueren van bias vereist het definiëren van de context en de consequenties, en niet alleen het verwijderen van een gevoelige kolom uit een dataset.
Onderzoek hoe voorbeelden en labels werden verzameld. Ontbrekende populaties, inconsistente annotaties, historische beslissingen en selectieve metingen kunnen bepalen wat het model leert. Een doellabel kan een oud proces weerspiegelen in plaats van de onderliggende uitkomst waar mensen om geven. Meet de prestaties van relevante groepen en omstandigheden met geschikte privacycontroles. Rapporteer steekproefomvang en onzekerheid. Een kleine subgroep kan onbetrouwbare schattingen hebben, terwijl een mondiaal gemiddelde een grote en praktisch belangrijke ongelijkheid kan verbergen. Verschillende eerlijkheidscriteria beantwoorden verschillende vragen en kunnen met elkaar conflicteren. Het gelijkstellen van één statistische maatstaf lost niet elk ethisch of juridisch probleem op. Kies criteria met domeinexpertise en de deelname van mensen die door het systeem worden getroffen. Bekijk de workflow rond het model. Hoe voorspellingen worden gebruikt, wie een uitkomst in twijfel kan trekken en hoe feedback wordt verzameld, kan de verdeling van de schade veranderen. Evalueer de maatregelen op zowel het beoogde effect als mogelijke nieuwe problemen. Beschouw eerlijkheid als een voortdurende beoordeling en niet als een eenmalig certificaat.
04Uitgewerkt voorbeeld
In een verzonnen test heeft groep A 900 voorbeelden met een nauwkeurigheid van 95%, terwijl groep B 100 voorbeelden heeft met een nauwkeurigheid van 60%.
Het algehele resultaat wordt gedomineerd door groep A. Rapporteer groep B afzonderlijk en inspecteer de fouten en steekproefonzekerheid.
Onderzoek de gegevensdekking en de oorzaken van de werkstroom voordat u een oplossing kiest.
Wat het laat zien
Deze hypothetische tellingen illustreren waarom een geaggregeerde score geen rechtvaardige prestaties kan opleveren.
Vergelijk de foutpercentages onder realistische bedrijfsomstandigheden met de getoonde steekproefomvang.
Controleer of een trainingslabel een beslissing uit het verleden weergeeft in plaats van het beoogde resultaat.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Niet door die stap alleen. Proxyvariabelen, labels, verzamelpraktijken en implementatiebeslissingen kunnen nog steeds ongelijke resultaten opleveren.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende in Verantwoordelijke AI-gebruiker
AI en privacy
Samenleving