คู่มือสังคม

อคติและแบบแผนในตัวสร้างภาพ AI

โปรแกรมสร้างภาพ AI มักจะสร้างซ้ำและพูดแบบเหมารวมเกินจริง เช่น การแสดงภาพผู้ชายส่วนใหญ่เป็น "CEO" หรือ "วิศวกร" ซึ่งส่วนใหญ่เป็นคนที่มีผิวสีแทนสำหรับงานที่มีสถานะสูง และมาตรฐานความงามที่แคบ เพราะพวกเขาเรียนรู้จากคอลเลกชันภาพคำบรรยายทางอินเทอร์เน็ตขนาดใหญ่ที่บิดเบี้ยว

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของอคติและภาพเหมารวมในตัวสร้างภาพ AI
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

นักวิจัยวัดสิ่งนี้ด้วยการสร้างภาพจำนวนมากเพื่อแจ้งข้อความที่เป็นกลางและเปรียบเทียบว่าใครปรากฏ สิ่งสำคัญคือเพราะตอนนี้รูปภาพเหล่านี้เติมเต็มโฆษณา หนังสือเรียน และข่าวสาร และทั้งอคติและการแก้ไขที่งุ่มง่ามอาจทำให้ผู้คนเข้าใจผิดได้

เจาะลึก

โมเดลข้อความเป็นรูปภาพ เช่น Stable Diffusion, Midjourney และ DALL-E เรียนรู้การเชื่อมโยงระหว่างคำและรูปภาพจากชุดข้อมูลขนาดใหญ่ของคู่คำอธิบายภาพ ซึ่งส่วนใหญ่คัดลอกมาจากเว็บ ตัวอย่างเช่น Stable Diffusion ได้รับการฝึกบนเซ็ตย่อยของ LAION-5B เว็บนำเสนอบางประเทศ ภาษา ประเภทรูปร่าง และอาชีพมากเกินไป และคำบรรยายก็สะท้อนถึงสมมติฐานของใครก็ตามที่เขียนเนื้อหาเหล่านั้น จากนั้นแบบจำลองจะเรียนรู้รูปภาพทั่วไปของคำหนึ่งๆ และมีแนวโน้มที่จะขยายคำนั้น เนื่องจากรุ่นนั้นสนับสนุนผลลัพธ์ที่ 'ปานกลาง' ที่มีความเป็นไปได้สูง ข้อความแจ้งที่ไม่ระบุเพศหรือชาติพันธุ์ยังคงก่อให้เกิดค่าเริ่มต้น และค่าเริ่มต้นนั้นมักจะเป็นแบบเหมารวม นักวิจัยวัดสิ่งนี้ได้หลายวิธี วิธีการทั่วไปคือการสร้างรูปภาพหลายร้อยภาพสำหรับข้อความที่เป็นกลาง (อาชีพ คำคุณศัพท์ เช่น 'น่าดึงดูด' หรือ 'ยากจน' สัญชาติ) และป้ายกำกับที่รับรู้ถึงเพศ สีผิว หรืออายุ ซึ่งบางครั้งเปรียบเทียบกับสถิติด้านแรงงาน โครงการ 'Stable Bias' ของนักวิจัย Hugging Face (2023) ใช้การจัดกลุ่มผลลัพธ์ของโมเดลแทนที่จะกำหนดป้ายกำกับโดยตรง ส่วนหนึ่งเนื่องจากการติดป้ายกำกับเชื้อชาติของใครบางคนจากรูปภาพนั้นเต็มไปด้วยปัญหา การวิเคราะห์ของ Bloomberg ในปี 2023 เกี่ยวกับรูปภาพ Stable Diffusion หลายพันภาพ พบว่างานที่มีรายได้สูงมีแนวโน้มไปทางผู้ชายที่มีผิวสีอ่อนกว่า และงานที่มีรายได้ต่ำหันไปทางสีผิวเข้ม การแก้ไขนั้นยากกว่าที่เห็น ในปี 2022 OpenAI กล่าวว่าได้ใช้เทคนิคเพื่อให้ DALL-E 2 ผลิตผู้คนที่หลากหลายมากขึ้นเมื่อไม่ได้ระบุข้อความแจ้ง มีการรายงานอย่างกว้างขวางว่าเกี่ยวข้องกับการเพิ่มคำศัพท์ในข้อความแจ้งเบื้องหลัง ในเดือนกุมภาพันธ์ 2024 Google ได้หยุดการสร้างภาพผู้คนของ Gemini ชั่วคราว หลังจากที่สร้างภาพที่ไม่ถูกต้องในอดีต เช่น การแสดงภาพกลุ่มต่างๆ ที่มีความหลากหลายทางเชื้อชาติซึ่งมีเนื้อเดียวกันในอดีต บทเรียนก็คือว่าอคติไม่ใช่การหมุนเพียงครั้งเดียว: ระบบจะต้องเป็นตัวแทนเมื่อพรอมต์เปิดอยู่และแม่นยำเมื่อพรอมต์นั้นเฉพาะเจาะจง ความเข้าใจผิดที่พบบ่อยคืออคติมาจากข้อมูลการฝึกอบรมเท่านั้น การออกแบบโมเดล การกรอง คำบรรยาย และตัวเลือกหลังการฝึก ล้วนกำหนดผลลัพธ์เช่นกัน

การใช้งานจริงในโลกแห่งความเป็นจริง

ครูขอให้โปรแกรมสร้างภาพ 'นักวิทยาศาสตร์ในห้องทดลอง' ยี่สิบครั้ง และให้ชายผิวขาวเกือบทั้งหมดสวมชุดแล็บ จากนั้นจึงเขียนข้อความใหม่เพื่อขอเฉพาะบุคคลที่หลากหลาย

ทีมการตลาดที่สร้าง "พยาบาล" และ "แพทย์" สังเกตเห็นว่าเครื่องมือนี้ทำให้พยาบาลเป็นผู้หญิงและแพทย์เป็นผู้ชาย และเพิ่มขั้นตอนการตรวจสอบก่อนที่รูปภาพจะเข้าสู่แคมเปญ

นักข่าวคนหนึ่งเปรียบเทียบผลลัพธ์ของ 'บ้านในไนจีเรีย' และ 'บ้านในสหรัฐอเมริกา' และพบว่าแบบจำลองมีค่าเริ่มต้นเป็นภาพความยากจนสำหรับบ้านหลังหนึ่ง และบ้านชานเมืองสำหรับอีกหลัง

ผู้ใช้ขอฉากประวัติศาสตร์ของกลุ่มใดกลุ่มหนึ่ง และได้รับรูปภาพที่แทรกข้อมูลประชากรที่ไม่มีอยู่ในอดีต ซึ่งแสดงให้เห็นว่าการแก้ไขความหลากหลายสามารถแก้ไขมากเกินไปได้อย่างไร

อนาคตของอคติและภาพเหมารวมในตัวสร้างภาพ AI

คาดว่าจะมีเกณฑ์มาตรฐานอคติที่เป็นมาตรฐานมากขึ้น การเปิดเผยข้อมูลมากขึ้นในการ์ดโมเดล และการบรรเทาบริบทที่รับรู้มากขึ้น ซึ่งทำให้แยกความแตกต่างการแจ้งเตือนแบบปลายเปิดจากการแจ้งเตือนในอดีตหรือเฉพาะเจาะจงส่วนบุคคล มีความขัดแย้งอย่างแท้จริงเกี่ยวกับเป้าหมายที่ถูกต้อง: การจับคู่สถิติในโลกแห่งความเป็นจริงในปัจจุบันสามารถทำลายความไม่เท่าเทียมกันที่มีอยู่ได้ ในขณะที่การเป็นตัวแทนแบบเดียวกันสามารถบิดเบือนความเป็นจริงได้ ตัวเลือกนั้นเป็นการตัดสินใจเรื่องคุณค่า ไม่ใช่การตัดสินใจทางเทคนิคเท่านั้น และองค์กรต่างๆ มักจะถูกขอให้อธิบาย ผู้ใช้จะยังคงต้องตรวจสอบภาพที่สร้างขึ้นก่อนที่จะเผยแพร่ โดยเฉพาะอย่างยิ่งในด้านการศึกษาและข่าวสาร

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
  • ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ

ระวัง

  • การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
  • ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
  • ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ

ขั้นตอนต่อไป

  1. แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
  2. ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
  3. ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
  4. ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Bias and Stereotypes in AI Image Generators quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

อคติและแบบแผนในตัวสร้างภาพ AI คืออะไร

โปรแกรมสร้างภาพ AI มักจะสร้างซ้ำและพูดแบบเหมารวมเกินจริง เช่น การแสดงภาพผู้ชายส่วนใหญ่เป็น "CEO" หรือ "วิศวกร" ซึ่งส่วนใหญ่เป็นคนที่มีผิวสีแทนสำหรับงานที่มีสถานะสูง และมาตรฐานความงามที่แคบ เพราะพวกเขาเรียนรู้จากคอลเลกชันภาพคำบรรยายทางอินเทอร์เน็ตขนาดใหญ่ที่บิดเบี้ยว นักวิจัยวัดสิ่งนี้ด้วยการสร้างภาพจำนวนมากเพื่อแจ้งข้อความที่เป็นกลางและเปรียบเทียบว่าใครปรากฏ สิ่งสำคัญคือเพราะตอนนี้รูปภาพเหล่านี้เติมเต็มโฆษณา หนังสือเรียน และข่าวสาร และทั้งอคติและการแก้ไขที่งุ่มง่ามอาจทำให้ผู้คนเข้าใจผิดได้

เหตุใดข้อความที่ไม่กล่าวถึงเพศหรือชาติพันธุ์จึงยังสร้างภาพลักษณ์ที่มีอคติอยู่

เมื่อไม่มีข้อกำหนดเฉพาะ โมเดลจะสร้างค่าเริ่มต้นที่มีความเป็นไปได้สูง และค่าเริ่มต้นนั้นจะสะท้อนและมักจะขยายภาพเหมารวมในข้อมูลการฝึก

โมเดลอย่าง Stable Diffusion เรียนรู้จากข้อมูลประเภทใด

ชุดข้อมูล เช่น LAION-5B ประกอบด้วยคู่ข้อความรูปภาพและข้อความที่คัดลอกมาจากเว็บหลายพันล้านคู่ ซึ่งทำให้เกิดความไม่สมดุลของเว็บ

วิธีการทั่วไปที่นักวิจัยใช้ในการวัดอคติในตัวสร้างภาพคืออะไร

นักวิจัยสร้างภาพหลายร้อยภาพต่อการแจ้งเตือนที่เป็นกลาง และวิเคราะห์คุณลักษณะที่รับรู้ ซึ่งบางครั้งก็เทียบกับสถิติในโลกแห่งความเป็นจริง

เหตุใดโครงการ Stable Bias จึงใช้การจัดกลุ่มแทนการติดป้ายกำกับการแข่งขันโดยตรง

การกำหนดเชื้อชาติจากรูปลักษณ์ภายนอกนั้นไม่น่าเชื่อถือและเป็นปัญหาทางจริยธรรม ดังนั้นการรวมกลุ่มผลลัพธ์จึงเป็นวิธีหนึ่งในการเปรียบเทียบแบบจำลองโดยไม่ต้องติดป้ายกำกับ

การวิเคราะห์รูปภาพ Stable Diffusion ของ Bloomberg ในปี 2023 พบอะไร

การวิเคราะห์พบว่าอาชีพที่มีรายได้สูงจะหันไปทางผู้ชายที่มีผิวสีอ่อน และอาชีพที่มีรายได้น้อยกว่าจะหันไปทางผู้ชายที่มีสีผิวคล้ำ

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →