LegközelebbKövetkező a Felelős AI-felhasználó
AI és adatvédelem
Társadalom
Társadalom ÚTMUTATÓ
A mesterséges intelligencia torzítása származhat adatokból, mérésekből, modellezési döntésekből, emberi ítéletekből és abból a tágabb rendszerből, amelyben a modellt használják.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Egyes minták tisztességtelen vagy káros következményekkel járhatnak. A torzítás kiértékeléséhez meg kell határozni a kontextust és a következményeket, nem csupán egy érzékeny oszlop eltávolítását az adatkészletből.
Vizsgálja meg, hogyan gyűjtötték össze a példákat és a címkéket. A hiányzó populációk, az inkonzisztens annotáció, a történeti döntések és a szelektív mérés befolyásolhatja a modell által tanultakat. A célcímke inkább egy régi folyamatot tükrözhet, nem pedig azt a mögöttes eredményt, amely az embereket érdekli. Mérje meg a teljesítményt a megfelelő csoportok és feltételek között megfelelő adatvédelmi vezérlőkkel. Jelentse a mintaméreteket és a bizonytalanságot. Egy kis alcsoport becslései megbízhatatlanok lehetnek, míg a globális átlag nagy és gyakorlatilag fontos eltérést rejthet. A különböző méltányossági kritériumok különböző kérdésekre válaszolnak, és ütközhetnek egymással. Egy statisztikai mérőszám kiegyenlítése nem old meg minden etikai vagy jogi aggályt. Válasszon kritériumokat a domain szakértelmével és a rendszer által érintett személyek részvételével. Tekintse át a modell körüli munkafolyamatot. Az, hogy az előrejelzéseket hogyan használják fel, ki támadhatja meg az eredményt, és hogyan gyűjtik a visszajelzéseket, megváltoztathatja a károk eloszlását. Értékelje a mérsékléseket mind a tervezett hatás, mind a lehetséges új problémák szempontjából. Kezelje a méltányosságot folyamatos értékelésként, nem pedig egyszeri tanúsítványként.
04Működő példa
Egy kitalált tesztben az A csoport 900 példát tartalmaz 95%-os, míg a B csoport 100 példát 60%-os pontossággal.
Az összesített eredményt az A csoport uralja. Jelentse külön a B csoportot, és vizsgálja meg a hibáit és a minta bizonytalanságát.
A mérséklés kiválasztása előtt vizsgálja meg az adatlefedettséget és a munkafolyamat okait.
Mit mutat
Ezek a feltételezett számok azt szemléltetik, hogy az összesített pontszám miért nem tud méltányos teljesítményt megállapítani.
Hasonlítsa össze a hibaarányokat a valósághű működési feltételek között a feltüntetett mintaméretekkel.
Tekintse át, hogy a képzési címke egy múltbeli döntést tükröz-e, nem pedig a tervezett eredményt.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Nem egyedül ezzel a lépéssel. A proxyváltozók, címkék, gyűjtési gyakorlatok és a telepítési döntések továbbra is egyenlőtlen eredményeket eredményezhetnek.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező a Felelős AI-felhasználó
AI és adatvédelem
Társadalom