LegközelebbKövetkező útmutató
Age Bias in AI Systems
Társadalom
Társadalom ÚTMUTATÓ
A Monk Skin Tone (MST) Scale egy 10 árnyalatú vizuális skála, amelyet Ellis Monk fejlesztett ki a Google-vel, és 2022-ben adták ki, hogy segítse a bőrtónus változásait a technológia értékelésében és megjegyzéseiben.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Javíthatja a lefedettséget a szűkebb skálákhoz képest, de nem versenyosztályozó vagy klinikai diagnózis, és a képvilágítás, a kijelző kalibrálása és az annotátor megítélése továbbra is befolyásolja a méréseket.
A Google és Ellis Monk harvardi szociológus 2022-ben adta ki a Monk Skin Tone Scale-t, amely tíz vizuális árnyalatot biztosít az emberi bőrtónusok szélesebb skálájának megjelenítésére technológiai kutatás és termékfejlesztés számára. A skála támogatja az adatkészlet-annotációt, a képkeresés értékelését és az alcsoport-elemzést, ahol a csapatok korábban durva kategóriákat vagy a Fitzpatrick bőrtípus skálát használták a látható bőrszín proxyjaként. A skála nyíltan elérhető kutatási és termékmunka számára; ez nem kormányzati szabvány vagy jogi követelmény. Az MST egy mérési problémával foglalkozik, nem pedig a faji vagy színbeli torzítás minden okával. Egy 2024-es tanulmány, amelyben a Fitzpatrick, Fenty és Monk skálákat hasonlították össze, 2214 embert kérdeztek meg az Egyesült Államokban, és megállapították, hogy a Fitzpatrick-skála kevésbé volt befogadó, mint a másik kettő, különösen a sötétebb bőrű és történelmileg marginalizált résztvevők. A Google annotációs kutatása megállapította, hogy a bőrtónus címkézése szubjektív lehet, és azt vizsgálta, hogy az annotátor tapasztalata hogyan befolyásolja az egyetértést. A képen látható bőrtónus a világítástól, a kamera feldolgozásától, a megjelenítési jellemzőktől és magától a képtől is függ. A tíz árnyalatú skála tehát hasznos közös referenciapontokat ad, nem pedig tökéletes mérést, vagy nem helyettesíti az önazonosítást. A kutatóknak meg kell különböztetniük a bőrtónust a fajtól, etnikai hovatartozástól, származástól és az ultraibolya sugárzásra adott orvosi választól. A Fitzpatrick skálát eredetileg az égési és barnulási reakciók köré tervezték, nem pedig univerzális kép-bőrtónus mérőszámként. Bőrszín-proxyként való használata eltérést okozhat. Az MST-t szintén nem arra tervezték, hogy diagnosztizáljon bőrbetegséget, vagy egy személyt faji csoporthoz rendeljen. A mesterséges intelligencia értékelésekor a csapatoknak közölniük kell, hogy mit mér a címke, ki választotta ki, hogyan szabványosították a képrögzítést, és hogyan kezelik a megjegyzések bizonytalanságát.
Egy számítógépes látással foglalkozó csapat az arcfelismerés auditálásakor a tíz MST árnyalatban mintát vesz a képekről, ahelyett, hogy egyetlen világos/sötét felosztásra hagyatkozna.
Az adatkészlet-kurátor referenciapéldákkal képezi ki az annotátorokat, és rögzíti a kétértelmű bőrtónusok kezelését.
Az orvoskutató elkerüli, hogy az MST-t lecserélje egy klinikai bőrfotótípusú műszerre anélkül, hogy ezt a felhasználást validálná.
A termékértékelő ellenőrzi a színkalibrálást és a képrögzítés feltételeit, mielőtt összehasonlítaná a modell teljesítményét a bőrtónusú címkék között.
Az MST egy nyílt forrás, amely az értékelési gyakorlat fejlődésével fejlődhet. Az újabb kutatások továbbra is a szubjektív skálákat hasonlítják össze a kalibrált színmérésekkel. A csapatoknak dokumentálniuk kell a verziót, az annotációs protokollt és a rögzítési feltételeket, és frissíteniük kell az auditokat, ha a bizonyítékok azt mutatják, hogy a címkék nem reprezentálják megfelelően az érintett populációt. Vezessen dátumozott nyilvántartást az egyes állítások mögött meghúzódó elsődleges forrásokról vagy tanulmányokról, és vizsgálja felül a következtetéseket, ha új bizonyítékok vagy végrehajtási részletek merülnek fel. A közösségi visszajelzések és a kolorimetrikus eszközök segíthetnek azonosítani, hogy a vizuális kategóriák hol nem képesek megragadni a megélt változatokat.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Monk Skin Tone (MST) Scale egy 10 árnyalatú vizuális skála, amelyet Ellis Monk fejlesztett ki a Google-vel, és 2022-ben adták ki, hogy segítse a bőrtónus változásait a technológia értékelésében és megjegyzéseiben. Javíthatja a lefedettséget a szűkebb skálákhoz képest, de nem versenyosztályozó vagy klinikai diagnózis, és a képvilágítás, a kijelző kalibrálása és az annotátor megítélése továbbra is befolyásolja a méréseket.
Az MST egy tíz árnyalatú skála, amelyet a bőrtónusok átfogóbb megjelenítésére fejlesztettek ki.
A skálát azért adták ki, hogy segítsen bemutatni a bőrtónus változásait a technológia és a termékfejlesztés terén.
A Google Ellis Monk harvardi szociológussal együttműködve adta ki a skálát.
A skála a bőrtónus árnyalatait írja le; nem osztályoz faji vagy etnikai hovatartozást.
A tanulmány három mérőszámot hasonlított össze, és azt találta, hogy a Fitzpatrick skála kevésbé tartalmazza a résztvevők észlelését, különösen a sötétebb bőrű és marginalizált résztvevők körében.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Age Bias in AI Systems
Társadalom