Társadalom ÚTMUTATÓ

Bőrtónus-elfogultság és a Szerzetes Bőrtónus Skála

A Monk Skin Tone (MST) Scale egy 10 árnyalatú vizuális skála, amelyet Ellis Monk fejlesztett ki a Google-vel, és 2022-ben adták ki, hogy segítse a bőrtónus változásait a technológia értékelésében és megjegyzéseiben.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon3 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A bőrtónus torzítás jövője és a szerzetesi bőrtónus skála
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Javíthatja a lefedettséget a szűkebb skálákhoz képest, de nem versenyosztályozó vagy klinikai diagnózis, és a képvilágítás, a kijelző kalibrálása és az annotátor megítélése továbbra is befolyásolja a méréseket.

Mély merülés

A Google és Ellis Monk harvardi szociológus 2022-ben adta ki a Monk Skin Tone Scale-t, amely tíz vizuális árnyalatot biztosít az emberi bőrtónusok szélesebb skálájának megjelenítésére technológiai kutatás és termékfejlesztés számára. A skála támogatja az adatkészlet-annotációt, a képkeresés értékelését és az alcsoport-elemzést, ahol a csapatok korábban durva kategóriákat vagy a Fitzpatrick bőrtípus skálát használták a látható bőrszín proxyjaként. A skála nyíltan elérhető kutatási és termékmunka számára; ez nem kormányzati szabvány vagy jogi követelmény. Az MST egy mérési problémával foglalkozik, nem pedig a faji vagy színbeli torzítás minden okával. Egy 2024-es tanulmány, amelyben a Fitzpatrick, Fenty és Monk skálákat hasonlították össze, 2214 embert kérdeztek meg az Egyesült Államokban, és megállapították, hogy a Fitzpatrick-skála kevésbé volt befogadó, mint a másik kettő, különösen a sötétebb bőrű és történelmileg marginalizált résztvevők. A Google annotációs kutatása megállapította, hogy a bőrtónus címkézése szubjektív lehet, és azt vizsgálta, hogy az annotátor tapasztalata hogyan befolyásolja az egyetértést. A képen látható bőrtónus a világítástól, a kamera feldolgozásától, a megjelenítési jellemzőktől és magától a képtől is függ. A tíz árnyalatú skála tehát hasznos közös referenciapontokat ad, nem pedig tökéletes mérést, vagy nem helyettesíti az önazonosítást. A kutatóknak meg kell különböztetniük a bőrtónust a fajtól, etnikai hovatartozástól, származástól és az ultraibolya sugárzásra adott orvosi választól. A Fitzpatrick skálát eredetileg az égési és barnulási reakciók köré tervezték, nem pedig univerzális kép-bőrtónus mérőszámként. Bőrszín-proxyként való használata eltérést okozhat. Az MST-t szintén nem arra tervezték, hogy diagnosztizáljon bőrbetegséget, vagy egy személyt faji csoporthoz rendeljen. A mesterséges intelligencia értékelésekor a csapatoknak közölniük kell, hogy mit mér a címke, ki választotta ki, hogyan szabványosították a képrögzítést, és hogyan kezelik a megjegyzések bizonytalanságát.

Valós megvalósítás

Egy számítógépes látással foglalkozó csapat az arcfelismerés auditálásakor a tíz MST árnyalatban mintát vesz a képekről, ahelyett, hogy egyetlen világos/sötét felosztásra hagyatkozna.

Az adatkészlet-kurátor referenciapéldákkal képezi ki az annotátorokat, és rögzíti a kétértelmű bőrtónusok kezelését.

Az orvoskutató elkerüli, hogy az MST-t lecserélje egy klinikai bőrfotótípusú műszerre anélkül, hogy ezt a felhasználást validálná.

A termékértékelő ellenőrzi a színkalibrálást és a képrögzítés feltételeit, mielőtt összehasonlítaná a modell teljesítményét a bőrtónusú címkék között.

A bőrtónus torzítás jövője és a szerzetesi bőrtónus skála

Az MST egy nyílt forrás, amely az értékelési gyakorlat fejlődésével fejlődhet. Az újabb kutatások továbbra is a szubjektív skálákat hasonlítják össze a kalibrált színmérésekkel. A csapatoknak dokumentálniuk kell a verziót, az annotációs protokollt és a rögzítési feltételeket, és frissíteniük kell az auditokat, ha a bizonyítékok azt mutatják, hogy a címkék nem reprezentálják megfelelően az érintett populációt. Vezessen dátumozott nyilvántartást az egyes állítások mögött meghúzódó elsődleges forrásokról vagy tanulmányokról, és vizsgálja felül a következtetéseket, ha új bizonyítékok vagy végrehajtási részletek merülnek fel. A közösségi visszajelzések és a kolorimetrikus eszközök segíthetnek azonosítani, hogy a vizuális kategóriák hol nem képesek megragadni a megélt változatokat.

A gyakorlatba ültetés

Miért számít

  • Kockázat és biztonság. A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
  • Tisztább döntések. A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
  • Átvágva a felhajtáson. A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.

Vigyázz

  • Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
  • Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
  • A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.

Következő lépések

  1. Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
  2. Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
  3. Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
  4. Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Töltsd ki a Skin Tone Bias és a Monk Skin Tone Scale kvízt

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a bőrtónus torzítás és a szerzetesi bőrtónus skála?

A Monk Skin Tone (MST) Scale egy 10 árnyalatú vizuális skála, amelyet Ellis Monk fejlesztett ki a Google-vel, és 2022-ben adták ki, hogy segítse a bőrtónus változásait a technológia értékelésében és megjegyzéseiben. Javíthatja a lefedettséget a szűkebb skálákhoz képest, de nem versenyosztályozó vagy klinikai diagnózis, és a képvilágítás, a kijelző kalibrálása és az annotátor megítélése továbbra is befolyásolja a méréseket.

Hány árnyalat található a Monk Skin Tone Scale-ban?

Az MST egy tíz árnyalatú skála, amelyet a bőrtónusok átfogóbb megjelenítésére fejlesztettek ki.

Melyik feladatot kívánja támogatni az MST Scale?

A skálát azért adták ki, hogy segítsen bemutatni a bőrtónus változásait a technológia és a termékfejlesztés terén.

Melyik kutató fejlesztette ki a skálát a Google-vel együttműködve?

A Google Ellis Monk harvardi szociológussal együttműködve adta ki a skálát.

Az MST kategória azonosítja a személy faji vagy etnikai hovatartozását?

A skála a bőrtónus árnyalatait írja le; nem osztályoz faji vagy etnikai hovatartozást.

Mit talált a 2214 fős összehasonlító tanulmány a Fitzpatrick skáláról?

A tanulmány három mérőszámot hasonlított össze, és azt találta, hogy a Fitzpatrick skála kevésbé tartalmazza a résztvevők észlelését, különösen a sötétebb bőrű és marginalizált résztvevők körében.