คู่มือบริษัท

กรณีอคติการครอบตัดรูปภาพของ Twitter

การตรวจสอบโมเดลความโดดเด่นในการดูตัวอย่างรูปภาพของ Twitter ในปี 2021 พบว่ามีความแตกต่างเล็กน้อยในการทดลองรูปภาพคู่ที่มีการควบคุม โดยมีความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิง 4% ชื่นชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชื่นชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของกรณีอคติในการตัดรูปภาพของ Twitter
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

บริษัทพบว่าไม่มีการครอบตัด "การจ้องมองของผู้ชาย" อย่างเป็นระบบในการตรวจสอบ 100 ภาพต่อกลุ่มแยกกัน และแทนที่การครอบตัดอัตโนมัติด้วยการแสดงตัวอย่างภาพเต็ม

เจาะลึก

Twitter ใช้โมเดลความโดดเด่นตั้งแต่ปี 2018 เพื่อเลือกจุดโฟกัสสำหรับการแสดงตัวอย่างรูปภาพ แบบจำลองนี้ได้รับการฝึกฝนเกี่ยวกับข้อมูลการติดตามสายตาของมนุษย์ กำหนดคะแนนความโดดเด่นให้กับขอบเขตของภาพ และจัดครอบตัดให้อยู่ตรงกลางที่จุดที่ได้คะแนนสูงสุด ความสะดวกสบายดังกล่าวยังทำให้การควบคุมพืชผลหายไปจากผู้เขียนอีกด้วย ในปี 2020 ผู้ใช้โพสต์ตัวอย่างที่คนผิวดำหรือผู้หญิงถูกแยกออกจากการแสดงตัวอย่าง ทำให้ Twitter เผยแพร่การวิเคราะห์เบื้องต้นและทำการตรวจสอบครั้งใหญ่ในภายหลัง ในเดือนพฤษภาคม พ.ศ. 2564 ทวิตเตอร์ได้อธิบายการทดลองรูปภาพคู่ ทีมงานสุ่มเชื่อมโยงรูปภาพของบุคคลจากกลุ่มต่างๆ และวัดความถี่ที่ระบบเลือกแต่ละภาพเป็นภาพเด่น โดย 50% เป็นข้อมูลอ้างอิงทางประชากรศาสตร์-ความเท่าเทียมกัน โดยรายงานความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิงมากกว่าผู้ชาย 4% ชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ รายงานความแตกต่างของผู้ชายผิวดำกับผิวขาวคือ 2% ผลลัพธ์เหล่านี้เป็นผลลัพธ์ภายใต้การออกแบบการทดสอบนั้น ไม่ใช่การสำรวจจำนวนรูปภาพที่อัปโหลดทั้งหมด สาเหตุที่แท้จริงของข้อมูลการฝึกอบรม หรือการวัดประสบการณ์ผู้ใช้ที่เป็นไปได้ทั้งหมด บริษัทได้ทดสอบข้อกังวลเรื่อง “การจ้องมองของผู้ชาย” แยกกัน โดยใช้รูปภาพนำเสนอของผู้ชาย 100 รูป และรูปภาพนำเสนอของผู้หญิง 100 รูป ซึ่งมีบริเวณที่โดดเด่นหลายแห่ง พบว่าประมาณสามในร้อยในแต่ละกลุ่มถูกตัดออกจากศีรษะ ซึ่งโดยปกติแล้วจะเป็นรายละเอียดของภาพที่ไม่ใช่ทางกายภาพ และรายงานว่าไม่มีอคติในการคัดค้านที่มีนัยสำคัญในกลุ่มตัวอย่างนั้น กลุ่มตัวอย่างมีขนาดเล็กและบริษัทได้ระบุอันตรายอื่นๆ ที่เป็นไปได้อย่างชัดเจน รวมถึงความแตกต่างทางวัฒนธรรมและสิทธิ์ของผู้ใช้ที่ลดลง Twitter เปิดตัวตัวอย่างภาพเต็มสำหรับอัตราส่วนภาพมาตรฐานบนมือถือหลังการทดสอบ โพสต์เดือนพฤษภาคม 2021 บอกว่าฟีเจอร์นี้เปิดตัวสำหรับทุกคน ลักษณะพิเศษของการครอบตัดรูปภาพเป็นการตัดสินใจที่ผู้คนควรทำ อย่าพูดว่า Twitter ฝึกโมเดลให้จดจำเชื้อชาติ แต่คาดการณ์ความโดดเด่นจากรูปแบบภาพ จากนั้นนักวิจัยตรวจสอบจะเปรียบเทียบการเลือกระหว่างกลุ่มประชากร

การใช้งานจริงในโลกแห่งความเป็นจริง

นักวิจัยทำซ้ำการทดสอบรูปภาพคู่ที่เผยแพร่ และรายงานกลุ่มการเปรียบเทียบที่เลือกและเส้นฐานความเท่าเทียมกัน

ทีมผลิตภัณฑ์ช่วยให้ผู้เขียนภาพดูตัวอย่างและควบคุมการครอบตัดแทนที่จะอนุมานจุดโฟกัสสำหรับพวกเขา

ผู้ตรวจสอบอธิบายว่าเหตุใดผลลัพธ์ของโมเดลความเด่นจึงไม่ใช่ป้ายกำกับการรับรู้เชื้อชาติหรือเป็นการวัดความสนใจของผู้ชมในทุกบริบท

นักข่าวแยกผลการตรวจสอบของ Twitter ในปี 2020 ออกจากการวิเคราะห์เพิ่มเติมในเดือนพฤษภาคม 2021 และการเปลี่ยนแปลงการแสดงผลในภายหลัง

อนาคตของกรณีอคติในการตัดรูปภาพของ Twitter

กรณีนี้แสดงให้เห็นทั้งการประเมินทางสถิติและการออกแบบผลิตภัณฑ์ใหม่ Twitter ลบการครอบตัดตามความโดดเด่นสำหรับการแสดงตัวอย่างรูปภาพมาตรฐาน หลังจากการวิพากษ์วิจารณ์จากผู้ใช้และการวิเคราะห์ภายใน โพสต์ของบริษัทในปี 2021 เป็นหลักฐานทางประวัติศาสตร์เกี่ยวกับฟีเจอร์และการตอบสนองดังกล่าว ไม่ได้กำหนดว่าทุกพื้นผิวการแสดงภาพ X ในภายหลังจะใช้รหัสหรือนโยบายเดียวกัน ประเมินเวอร์ชันที่ใช้งานและการควบคุมผู้ใช้จริงแยกจากผลลัพธ์การวัดประสิทธิภาพแบบเก่า การตรวจสอบใหม่ควรระบุกลุ่มการเปรียบเทียบล่วงหน้า รวมถึงการตั้งค่าของผู้สร้างภาพ และเผยแพร่ความไม่แน่นอนเพื่อให้ตัวชี้วัดความเท่าเทียมกันไม่ปิดบังอันตรายของการเป็นตัวแทน

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • กลยุทธ์ของผู้ขาย. โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป
  • ต้นทุนและงบประมาณ. ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว
  • ความเสี่ยงและความปลอดภัย. สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง

ระวัง

  • การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง
  • การกำหนดราคา API หรือการเปลี่ยนแปลงนโยบายสามารถทำลายสมมติฐานได้ในชั่วข้ามคืน
  • การพึ่งพาผู้ขายรายเดียวจะเพิ่มค่าใช้จ่ายในการล็อคอินและการย้ายข้อมูล

ขั้นตอนต่อไป

  1. ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง
  2. ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ
  3. รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย
  4. ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบกรณีอคติการครอบตัดรูปภาพของ Twitter

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

กรณีอคติการครอบตัดรูปภาพของ Twitter คืออะไร

การตรวจสอบโมเดลความโดดเด่นในการดูตัวอย่างรูปภาพของ Twitter ในปี 2021 พบว่ามีความแตกต่างเล็กน้อยในการทดลองรูปภาพคู่ที่มีการควบคุม โดยมีความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิง 4% ชื่นชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชื่นชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ บริษัทพบว่าไม่มีการครอบตัด "การจ้องมองของผู้ชาย" อย่างเป็นระบบในการตรวจสอบ 100 ภาพต่อกลุ่มแยกกัน และแทนที่การครอบตัดอัตโนมัติด้วยการแสดงตัวอย่างภาพเต็ม

Twitter กล่าวว่าข้อมูลใดที่ฝึกฝนโมเดลความสามารถในการครอบตัดรูปภาพ

Twitter กล่าวว่าโมเดลนี้เรียนรู้คะแนนความโดดเด่นจากข้อมูลการติดตามสายตาของมนุษย์

โมเดลความเด่นวางการครอบตัดตัวอย่างอย่างไร

Twitter อธิบายการให้คะแนนขอบเขตของภาพและใช้จุดที่ได้คะแนนสูงสุดเป็นจุดศูนย์กลางการครอบตัด

ในการตรวจสอบรูปภาพคู่ของ Twitter ในปี 2021 อะไรคือความแตกต่างที่รายงานจากความเท่าเทียมกันของคนผิวดำและคนผิวขาว?

Twitter รายงานความแตกต่าง 4% จากความเท่าเทียมกันทางประชากรศาสตร์ซึ่งนิยมคนผิวขาวในการเปรียบเทียบคนผิวดำ/คนขาว

Twitter รายงานอะไรในการทดสอบ "การจ้องมองของผู้ชาย" ที่แยกต่างหาก

บริษัทสุ่มตัวอย่างภาพนำเสนอชาย 100 ภาพและภาพนำเสนอหญิง 100 ภาพ และพบว่ามีการครอบตัดศีรษะประมาณ 3 ภาพต่อร้อยภาพในแต่ละกลุ่ม

Twitter บอกว่ามีการเปลี่ยนแปลงผลิตภัณฑ์อะไรบ้างหลังการประเมิน

Twitter กล่าวว่าได้เปิดตัวการแสดงภาพเต็มสำหรับภาพถ่ายอัตราส่วนมาตรฐานหลังการทดสอบ

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →