কোম্পানি গাইড

টুইটারের ইমেজ ক্রপিং বায়াস কেস

Twitter’s 2021 audit of its image-preview saliency model found small selection disparities in a controlled paired-image experiment: an 8% difference from parity favoring women, 4% favoring white over Black people, and 7% favoring white over Black women.

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min

এই পৃষ্ঠায়3 মিনিট পড়া হয়েছে
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. The Future of Twitter's Image Cropping Bias Case
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

The company found no systematic “male gaze” cropping in its separate 100-image-per-group check and replaced automatic cropping with full-image previews.

গভীর ডুব

Twitter used a saliency model beginning in 2018 to choose a focal point for image previews. The model was trained on human eye-tracking data, assigned saliency scores to image regions, and centered a crop on the highest-scoring point. That convenience also took crop control away from authors. In 2020, users posted examples where Black people or women appeared excluded from previews, prompting Twitter to publish an initial analysis and later a larger audit. In May 2021, Twitter described a paired-image experiment. The team randomly linked images of individuals from different groups and measured how often the system selected each image as the salient one, with 50% as its demographic-parity reference. It reported an 8% difference from parity favoring women over men, 4% favoring white over Black people, and 7% favoring white over Black women; its reported Black-versus-white men difference was 2%. These are results under that test design, not a census of all uploaded images, a causal account of training data, or a measure of all possible user experience. The company separately tested the “male gaze” concern using 100 male-presenting and 100 female-presenting images that had multiple salient regions. It found about three per hundred in each group cropped away from the head, usually to nonphysical image details, and reported no significant objectification bias in that sample. The sample was small and the company explicitly identified other possible harms, including cultural nuance and reduced user agency. Twitter launched full-image previews for standard aspect ratios on mobile after testing; the May 2021 post says the feature rolled out to everyone. It characterized image cropping as a decision people should make. Do not say Twitter trained the model to recognize race: it predicted saliency from image patterns, then audit researchers compared selections across demographic groups.

বাস্তব-বিশ্ব বাস্তবায়ন

A researcher reproduces the published paired-image test and reports its selected comparison groups and parity baseline.

A product team lets image authors preview and control a crop instead of inferring the focal point for them.

A reviewer explains why the saliency model’s output is not a race-recognition label or a measure of viewer attention in every context.

A journalist separates Twitter’s 2020 audit results from its May 2021 expanded analysis and subsequent display change.

The Future of Twitter's Image Cropping Bias Case

The case illustrates both statistical assessment and product redesign. Twitter removed saliency-based cropping for standard image previews after user criticism and its internal analysis. The company’s 2021 post is historical evidence about that feature and response; it does not establish that every later X image-display surface uses the same code or policy. Evaluate deployed versions and real user controls separately from old benchmark results. New audits should prespecify comparison groups, include image creators’ preferences, and publish uncertainty so that parity metrics do not obscure representation harms.

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • বিক্রেতার কৌশল. বিক্রেতা রোডম্যাপ আপনার দল পরবর্তীতে কী কী বৈশিষ্ট্য তৈরি করতে পারে তা প্রভাবিত করে।
  • খরচ ও বাজেট. বাণিজ্যিক শর্তাবলী এবং স্থাপনার বিকল্পগুলি দীর্ঘমেয়াদী খরচ এবং ঝুঁকিকে প্রভাবিত করে।
  • ঝুঁকি এবং নিরাপত্তা. কোম্পানির প্রণোদনা পণ্যের ডিফল্ট, নিরাপত্তা ভঙ্গি এবং উন্মুক্ততাকে আকার দেয়।

জন্য সতর্ক

  • লঞ্চ ঘোষণা বাস্তব উত্পাদন কর্মপ্রবাহ মধ্যে স্থিতিশীলতা ছাড়িয়ে যেতে পারে.
  • API মূল্য নির্ধারণ বা নীতি পরিবর্তন রাতারাতি অনুমান ভঙ্গ করতে পারে।
  • একক-বিক্রেতা নির্ভরতা লক-ইন এবং মাইগ্রেশন খরচ বাড়ায়।

পরবর্তী পদক্ষেপ

  1. আপনার নিজের কাজ এবং ডেটাসেট ব্যবহার করে প্রদানকারীদের মূল্যায়ন করুন।
  2. একীকরণের আগে গোপনীয়তা, নিরাপত্তা এবং আইনি শর্তাবলী পর্যালোচনা করুন।
  3. মডেল বা বিক্রেতা জুড়ে একটি ফলব্যাক পরিকল্পনা বজায় রাখুন।
  4. রিলিজ নোটগুলি মনিটর করুন যাতে রোডম্যাপ পরিবর্তন দলগুলিকে অবাক না করে।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the Twitter's Image Cropping Bias Case quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

What is Twitter's Image Cropping Bias Case?

Twitter’s 2021 audit of its image-preview saliency model found small selection disparities in a controlled paired-image experiment: an 8% difference from parity favoring women, 4% favoring white over Black people, and 7% favoring white over Black women. The company found no systematic “male gaze” cropping in its separate 100-image-per-group check and replaced automatic cropping with full-image previews.

কি তথ্য টুইটার বলেছে তার ইমেজ-ক্রপিং স্যালিয়েন্সি মডেলকে প্রশিক্ষিত করেছে?

টুইটার বলেছে যে মডেলটি মানুষের চোখ-ট্র্যাকিং ডেটা থেকে উল্লেখযোগ্য স্কোর শিখেছে।

স্যালেন্সি মডেল কিভাবে একটি পূর্বরূপ ফসল স্থাপন করেছে?

টুইটার স্কোরিং ইমেজ অঞ্চল বর্ণনা করেছে এবং ক্রপ সেন্টার হিসেবে সর্বোচ্চ স্কোরিং পয়েন্ট ব্যবহার করেছে।

টুইটারের 2021 পেয়ারড-ইমেজ অডিটে, কালো বনাম সাদা ব্যক্তিদের জন্য সমতা থেকে রিপোর্ট করা পার্থক্য কী ছিল?

টুইটার পেয়ার করা কালো/সাদা তুলনাতে সাদা ব্যক্তিদের পক্ষে জনসংখ্যাগত সমতা থেকে 4% পার্থক্য জানিয়েছে।

টুইটার তার পৃথক "পুরুষ দৃষ্টি" পরীক্ষায় কী রিপোর্ট করেছে?

সংস্থাটি 100টি পুরুষ-উপস্থাপক এবং 100টি মহিলা-উপস্থাপক চিত্রের নমুনা সংগ্রহ করেছে এবং প্রতিটি গ্রুপে প্রতি শতকে প্রায় তিনটি মাথার বাইরের ফসল পেয়েছে।

মূল্যায়নের পরে টুইটার কি পণ্য পরিবর্তন করেছে বলেছে?

টুইটার বলেছে যে এটি পরীক্ষার পর স্ট্যান্ডার্ড অ্যাসপেক্ট-অনুপাতের ফটোগুলির জন্য পূর্ণ-চিত্র প্রদর্শন চালু করেছে।

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →