Vállalkozási ÚTMUTATÓ

A Twitter képvágási elfogultsága

Twitter’s 2021 audit of its image-preview saliency model found small selection disparities in a controlled paired-image experiment: an 8% difference from parity favoring women, 4% favoring white over Black people, and 7% favoring white over Black women.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon3 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. The Future of Twitter's Image Cropping Bias Case
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

The company found no systematic “male gaze” cropping in its separate 100-image-per-group check and replaced automatic cropping with full-image previews.

Mély merülés

Twitter used a saliency model beginning in 2018 to choose a focal point for image previews. The model was trained on human eye-tracking data, assigned saliency scores to image regions, and centered a crop on the highest-scoring point. That convenience also took crop control away from authors. In 2020, users posted examples where Black people or women appeared excluded from previews, prompting Twitter to publish an initial analysis and later a larger audit. In May 2021, Twitter described a paired-image experiment. The team randomly linked images of individuals from different groups and measured how often the system selected each image as the salient one, with 50% as its demographic-parity reference. It reported an 8% difference from parity favoring women over men, 4% favoring white over Black people, and 7% favoring white over Black women; its reported Black-versus-white men difference was 2%. These are results under that test design, not a census of all uploaded images, a causal account of training data, or a measure of all possible user experience. The company separately tested the “male gaze” concern using 100 male-presenting and 100 female-presenting images that had multiple salient regions. It found about three per hundred in each group cropped away from the head, usually to nonphysical image details, and reported no significant objectification bias in that sample. The sample was small and the company explicitly identified other possible harms, including cultural nuance and reduced user agency. Twitter launched full-image previews for standard aspect ratios on mobile after testing; the May 2021 post says the feature rolled out to everyone. It characterized image cropping as a decision people should make. Do not say Twitter trained the model to recognize race: it predicted saliency from image patterns, then audit researchers compared selections across demographic groups.

Valós megvalósítás

A researcher reproduces the published paired-image test and reports its selected comparison groups and parity baseline.

A product team lets image authors preview and control a crop instead of inferring the focal point for them.

A reviewer explains why the saliency model’s output is not a race-recognition label or a measure of viewer attention in every context.

A journalist separates Twitter’s 2020 audit results from its May 2021 expanded analysis and subsequent display change.

The Future of Twitter's Image Cropping Bias Case

The case illustrates both statistical assessment and product redesign. Twitter removed saliency-based cropping for standard image previews after user criticism and its internal analysis. The company’s 2021 post is historical evidence about that feature and response; it does not establish that every later X image-display surface uses the same code or policy. Evaluate deployed versions and real user controls separately from old benchmark results. New audits should prespecify comparison groups, include image creators’ preferences, and publish uncertainty so that parity metrics do not obscure representation harms.

A gyakorlatba ültetés

Miért számít

  • Szállítói stratégia. A szállítói ütemterv befolyásolja, hogy csapata milyen funkciókat építhet fel legközelebb.
  • Költség és költségvetés. A kereskedelmi feltételek és a telepítési lehetőségek befolyásolják a hosszú távú költségeket és kockázatokat.
  • Kockázat és biztonság. A vállalati ösztönzők alakítják a termék alapértelmezett beállításait, a biztonsági testtartást és a nyitottságot.

Vigyázz

  • Az indítási bejelentések meghaladhatják a valódi termelési munkafolyamatok stabilitását.
  • Az API-árazás vagy az irányelvváltások egyik napról a másikra megdönthetik a feltételezéseket.
  • Az egyszállítótól való függőség növeli a bezárási és migrációs költségeket.

Következő lépések

  1. Értékelje a szolgáltatókat saját feladatai és adatkészletei segítségével.
  2. Az integráció előtt tekintse át az adatvédelmi, biztonsági és jogi feltételeket.
  3. Tartsa fenn a tartalék tervet a modellek vagy szállítók között.
  4. Figyelje a kiadási megjegyzéseket, hogy az ütemterv változásai ne lepjék meg a csapatokat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Twitter's Image Cropping Bias Case quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

What is Twitter's Image Cropping Bias Case?

Twitter’s 2021 audit of its image-preview saliency model found small selection disparities in a controlled paired-image experiment: an 8% difference from parity favoring women, 4% favoring white over Black people, and 7% favoring white over Black women. The company found no systematic “male gaze” cropping in its separate 100-image-per-group check and replaced automatic cropping with full-image previews.

What data did Twitter say trained its image-cropping saliency model?

Twitter said the model learned saliency scores from human eye-tracking data.

How did the saliency model place a preview crop?

Twitter described scoring image regions and using the highest-scoring point as the crop center.

In Twitter’s 2021 paired-image audit, what was the reported difference from parity for Black versus white individuals?

Twitter reported a 4% difference from demographic parity favoring white individuals in paired Black/white comparisons.

What did Twitter report in its separate “male gaze” test?

The company sampled 100 male-presenting and 100 female-presenting images and found about three out-of-head crops per hundred in each group.

What product change did Twitter say it made after the assessment?

Twitter said it launched full-image display for standard aspect-ratio photos after testing.