ต่อไปคำแนะนำต่อไป
COMPAS และอคติในอัลกอริทึมการกระทำผิดซ้ำ
สังคม
คู่มือบริษัท
การตรวจสอบโมเดลความโดดเด่นในการดูตัวอย่างรูปภาพของ Twitter ในปี 2021 พบว่ามีความแตกต่างเล็กน้อยในการทดลองรูปภาพคู่ที่มีการควบคุม โดยมีความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิง 4% ชื่นชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชื่นชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บริษัทพบว่าไม่มีการครอบตัด "การจ้องมองของผู้ชาย" อย่างเป็นระบบในการตรวจสอบ 100 ภาพต่อกลุ่มแยกกัน และแทนที่การครอบตัดอัตโนมัติด้วยการแสดงตัวอย่างภาพเต็ม
Twitter ใช้โมเดลความโดดเด่นตั้งแต่ปี 2018 เพื่อเลือกจุดโฟกัสสำหรับการแสดงตัวอย่างรูปภาพ แบบจำลองนี้ได้รับการฝึกฝนเกี่ยวกับข้อมูลการติดตามสายตาของมนุษย์ กำหนดคะแนนความโดดเด่นให้กับขอบเขตของภาพ และจัดครอบตัดให้อยู่ตรงกลางที่จุดที่ได้คะแนนสูงสุด ความสะดวกสบายดังกล่าวยังทำให้การควบคุมพืชผลหายไปจากผู้เขียนอีกด้วย ในปี 2020 ผู้ใช้โพสต์ตัวอย่างที่คนผิวดำหรือผู้หญิงถูกแยกออกจากการแสดงตัวอย่าง ทำให้ Twitter เผยแพร่การวิเคราะห์เบื้องต้นและทำการตรวจสอบครั้งใหญ่ในภายหลัง ในเดือนพฤษภาคม พ.ศ. 2564 ทวิตเตอร์ได้อธิบายการทดลองรูปภาพคู่ ทีมงานสุ่มเชื่อมโยงรูปภาพของบุคคลจากกลุ่มต่างๆ และวัดความถี่ที่ระบบเลือกแต่ละภาพเป็นภาพเด่น โดย 50% เป็นข้อมูลอ้างอิงทางประชากรศาสตร์-ความเท่าเทียมกัน โดยรายงานความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิงมากกว่าผู้ชาย 4% ชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ รายงานความแตกต่างของผู้ชายผิวดำกับผิวขาวคือ 2% ผลลัพธ์เหล่านี้เป็นผลลัพธ์ภายใต้การออกแบบการทดสอบนั้น ไม่ใช่การสำรวจจำนวนรูปภาพที่อัปโหลดทั้งหมด สาเหตุที่แท้จริงของข้อมูลการฝึกอบรม หรือการวัดประสบการณ์ผู้ใช้ที่เป็นไปได้ทั้งหมด บริษัทได้ทดสอบข้อกังวลเรื่อง “การจ้องมองของผู้ชาย” แยกกัน โดยใช้รูปภาพนำเสนอของผู้ชาย 100 รูป และรูปภาพนำเสนอของผู้หญิง 100 รูป ซึ่งมีบริเวณที่โดดเด่นหลายแห่ง พบว่าประมาณสามในร้อยในแต่ละกลุ่มถูกตัดออกจากศีรษะ ซึ่งโดยปกติแล้วจะเป็นรายละเอียดของภาพที่ไม่ใช่ทางกายภาพ และรายงานว่าไม่มีอคติในการคัดค้านที่มีนัยสำคัญในกลุ่มตัวอย่างนั้น กลุ่มตัวอย่างมีขนาดเล็กและบริษัทได้ระบุอันตรายอื่นๆ ที่เป็นไปได้อย่างชัดเจน รวมถึงความแตกต่างทางวัฒนธรรมและสิทธิ์ของผู้ใช้ที่ลดลง Twitter เปิดตัวตัวอย่างภาพเต็มสำหรับอัตราส่วนภาพมาตรฐานบนมือถือหลังการทดสอบ โพสต์เดือนพฤษภาคม 2021 บอกว่าฟีเจอร์นี้เปิดตัวสำหรับทุกคน ลักษณะพิเศษของการครอบตัดรูปภาพเป็นการตัดสินใจที่ผู้คนควรทำ อย่าพูดว่า Twitter ฝึกโมเดลให้จดจำเชื้อชาติ แต่คาดการณ์ความโดดเด่นจากรูปแบบภาพ จากนั้นนักวิจัยตรวจสอบจะเปรียบเทียบการเลือกระหว่างกลุ่มประชากร
นักวิจัยทำซ้ำการทดสอบรูปภาพคู่ที่เผยแพร่ และรายงานกลุ่มการเปรียบเทียบที่เลือกและเส้นฐานความเท่าเทียมกัน
ทีมผลิตภัณฑ์ช่วยให้ผู้เขียนภาพดูตัวอย่างและควบคุมการครอบตัดแทนที่จะอนุมานจุดโฟกัสสำหรับพวกเขา
ผู้ตรวจสอบอธิบายว่าเหตุใดผลลัพธ์ของโมเดลความเด่นจึงไม่ใช่ป้ายกำกับการรับรู้เชื้อชาติหรือเป็นการวัดความสนใจของผู้ชมในทุกบริบท
นักข่าวแยกผลการตรวจสอบของ Twitter ในปี 2020 ออกจากการวิเคราะห์เพิ่มเติมในเดือนพฤษภาคม 2021 และการเปลี่ยนแปลงการแสดงผลในภายหลัง
กรณีนี้แสดงให้เห็นทั้งการประเมินทางสถิติและการออกแบบผลิตภัณฑ์ใหม่ Twitter ลบการครอบตัดตามความโดดเด่นสำหรับการแสดงตัวอย่างรูปภาพมาตรฐาน หลังจากการวิพากษ์วิจารณ์จากผู้ใช้และการวิเคราะห์ภายใน โพสต์ของบริษัทในปี 2021 เป็นหลักฐานทางประวัติศาสตร์เกี่ยวกับฟีเจอร์และการตอบสนองดังกล่าว ไม่ได้กำหนดว่าทุกพื้นผิวการแสดงภาพ X ในภายหลังจะใช้รหัสหรือนโยบายเดียวกัน ประเมินเวอร์ชันที่ใช้งานและการควบคุมผู้ใช้จริงแยกจากผลลัพธ์การวัดประสิทธิภาพแบบเก่า การตรวจสอบใหม่ควรระบุกลุ่มการเปรียบเทียบล่วงหน้า รวมถึงการตั้งค่าของผู้สร้างภาพ และเผยแพร่ความไม่แน่นอนเพื่อให้ตัวชี้วัดความเท่าเทียมกันไม่ปิดบังอันตรายของการเป็นตัวแทน
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
การตรวจสอบโมเดลความโดดเด่นในการดูตัวอย่างรูปภาพของ Twitter ในปี 2021 พบว่ามีความแตกต่างเล็กน้อยในการทดลองรูปภาพคู่ที่มีการควบคุม โดยมีความแตกต่าง 8% จากความเท่าเทียมที่สนับสนุนผู้หญิง 4% ชื่นชอบคนผิวขาวมากกว่าคนผิวดำ และ 7% ชื่นชอบคนผิวขาวมากกว่าผู้หญิงผิวดำ บริษัทพบว่าไม่มีการครอบตัด "การจ้องมองของผู้ชาย" อย่างเป็นระบบในการตรวจสอบ 100 ภาพต่อกลุ่มแยกกัน และแทนที่การครอบตัดอัตโนมัติด้วยการแสดงตัวอย่างภาพเต็ม
Twitter กล่าวว่าโมเดลนี้เรียนรู้คะแนนความโดดเด่นจากข้อมูลการติดตามสายตาของมนุษย์
Twitter อธิบายการให้คะแนนขอบเขตของภาพและใช้จุดที่ได้คะแนนสูงสุดเป็นจุดศูนย์กลางการครอบตัด
Twitter รายงานความแตกต่าง 4% จากความเท่าเทียมกันทางประชากรศาสตร์ซึ่งนิยมคนผิวขาวในการเปรียบเทียบคนผิวดำ/คนขาว
บริษัทสุ่มตัวอย่างภาพนำเสนอชาย 100 ภาพและภาพนำเสนอหญิง 100 ภาพ และพบว่ามีการครอบตัดศีรษะประมาณ 3 ภาพต่อร้อยภาพในแต่ละกลุ่ม
Twitter กล่าวว่าได้เปิดตัวการแสดงภาพเต็มสำหรับภาพถ่ายอัตราส่วนมาตรฐานหลังการทดสอบ
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
COMPAS และอคติในอัลกอริทึมการกระทำผิดซ้ำ
สังคม