คู่มือสังคม
อคติและแบบแผนในตัวสร้างภาพ AI
โปรแกรมสร้างภาพ AI มักจะสร้างซ้ำและพูดแบบเหมารวมเกินจริง เช่น การแสดงภาพผู้ชายส่วนใหญ่เป็น "CEO" หรือ "วิศวกร" ซึ่งส่วนใหญ่เป็นคนที่มีผิวสีแทนสำหรับงานที่มีสถานะสูง และมาตรฐานความงามที่แคบ เพราะพวกเขาเรียนรู้จากคอลเลกชันภาพคำบรรยายทางอินเทอร์เน็ตขนาดใหญ่ที่บิดเบี้ยว
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 4 นาที
ภาพรวม
นักวิจัยวัดสิ่งนี้ด้วยการสร้างภาพจำนวนมากเพื่อแจ้งข้อความที่เป็นกลางและเปรียบเทียบว่าใครปรากฏ สิ่งสำคัญคือเพราะตอนนี้รูปภาพเหล่านี้เติมเต็มโฆษณา หนังสือเรียน และข่าวสาร และทั้งอคติและการแก้ไขที่งุ่มง่ามอาจทำให้ผู้คนเข้าใจผิดได้
เจาะลึก
โมเดลข้อความเป็นรูปภาพ เช่น Stable Diffusion, Midjourney และ DALL-E เรียนรู้การเชื่อมโยงระหว่างคำและรูปภาพจากชุดข้อมูลขนาดใหญ่ของคู่คำอธิบายภาพ ซึ่งส่วนใหญ่คัดลอกมาจากเว็บ ตัวอย่างเช่น Stable Diffusion ได้รับการฝึกบนเซ็ตย่อยของ LAION-5B เว็บนำเสนอบางประเทศ ภาษา ประเภทรูปร่าง และอาชีพมากเกินไป และคำบรรยายก็สะท้อนถึงสมมติฐานของใครก็ตามที่เขียนเนื้อหาเหล่านั้น จากนั้นแบบจำลองจะเรียนรู้รูปภาพทั่วไปของคำหนึ่งๆ และมีแนวโน้มที่จะขยายคำนั้น เนื่องจากรุ่นนั้นสนับสนุนผลลัพธ์ที่ 'ปานกลาง' ที่มีความเป็นไปได้สูง ข้อความแจ้งที่ไม่ระบุเพศหรือชาติพันธุ์ยังคงก่อให้เกิดค่าเริ่มต้น และค่าเริ่มต้นนั้นมักจะเป็นแบบเหมารวม นักวิจัยวัดสิ่งนี้ได้หลายวิธี วิธีการทั่วไปคือการสร้างรูปภาพหลายร้อยภาพสำหรับข้อความที่เป็นกลาง (อาชีพ คำคุณศัพท์ เช่น 'น่าดึงดูด' หรือ 'ยากจน' สัญชาติ) และป้ายกำกับที่รับรู้ถึงเพศ สีผิว หรืออายุ ซึ่งบางครั้งเปรียบเทียบกับสถิติด้านแรงงาน โครงการ 'Stable Bias' ของนักวิจัย Hugging Face (2023) ใช้การจัดกลุ่มผลลัพธ์ของโมเดลแทนที่จะกำหนดป้ายกำกับโดยตรง ส่วนหนึ่งเนื่องจากการติดป้ายกำกับเชื้อชาติของใครบางคนจากรูปภาพนั้นเต็มไปด้วยปัญหา การวิเคราะห์ของ Bloomberg ในปี 2023 เกี่ยวกับรูปภาพ Stable Diffusion หลายพันภาพ พบว่างานที่มีรายได้สูงมีแนวโน้มไปทางผู้ชายที่มีผิวสีอ่อนกว่า และงานที่มีรายได้ต่ำหันไปทางสีผิวเข้ม การแก้ไขนั้นยากกว่าที่เห็น ในปี 2022 OpenAI กล่าวว่าได้ใช้เทคนิคเพื่อให้ DALL-E 2 ผลิตผู้คนที่หลากหลายมากขึ้นเมื่อไม่ได้ระบุข้อความแจ้ง มีการรายงานอย่างกว้างขวางว่าเกี่ยวข้องกับการเพิ่มคำศัพท์ในข้อความแจ้งเบื้องหลัง ในเดือนกุมภาพันธ์ 2024 Google ได้หยุดการสร้างภาพผู้คนของ Gemini ชั่วคราว หลังจากที่สร้างภาพที่ไม่ถูกต้องในอดีต เช่น การแสดงภาพกลุ่มต่างๆ ที่มีความหลากหลายทางเชื้อชาติซึ่งมีเนื้อเดียวกันในอดีต บทเรียนก็คือว่าอคติไม่ใช่การหมุนเพียงครั้งเดียว: ระบบจะต้องเป็นตัวแทนเมื่อพรอมต์เปิดอยู่และแม่นยำเมื่อพรอมต์นั้นเฉพาะเจาะจง ความเข้าใจผิดที่พบบ่อยคืออคติมาจากข้อมูลการฝึกอบรมเท่านั้น การออกแบบโมเดล การกรอง คำบรรยาย และตัวเลือกหลังการฝึก ล้วนกำหนดผลลัพธ์เช่นกัน
การใช้งานจริงในโลกแห่งความเป็นจริง
ครูขอให้โปรแกรมสร้างภาพ 'นักวิทยาศาสตร์ในห้องทดลอง' ยี่สิบครั้ง และให้ชายผิวขาวเกือบทั้งหมดสวมชุดแล็บ จากนั้นจึงเขียนข้อความใหม่เพื่อขอเฉพาะบุคคลที่หลากหลาย
ทีมการตลาดที่สร้าง "พยาบาล" และ "แพทย์" สังเกตเห็นว่าเครื่องมือนี้ทำให้พยาบาลเป็นผู้หญิงและแพทย์เป็นผู้ชาย และเพิ่มขั้นตอนการตรวจสอบก่อนที่รูปภาพจะเข้าสู่แคมเปญ
นักข่าวคนหนึ่งเปรียบเทียบผลลัพธ์ของ 'บ้านในไนจีเรีย' และ 'บ้านในสหรัฐอเมริกา' และพบว่าแบบจำลองมีค่าเริ่มต้นเป็นภาพความยากจนสำหรับบ้านหลังหนึ่ง และบ้านชานเมืองสำหรับอีกหลัง
ผู้ใช้ขอฉากประวัติศาสตร์ของกลุ่มใดกลุ่มหนึ่ง และได้รับรูปภาพที่แทรกข้อมูลประชากรที่ไม่มีอยู่ในอดีต ซึ่งแสดงให้เห็นว่าการแก้ไขความหลากหลายสามารถแก้ไขมากเกินไปได้อย่างไร
อนาคตของอคติและภาพเหมารวมในตัวสร้างภาพ AI
คาดว่าจะมีเกณฑ์มาตรฐานอคติที่เป็นมาตรฐานมากขึ้น การเปิดเผยข้อมูลมากขึ้นในการ์ดโมเดล และการบรรเทาบริบทที่รับรู้มากขึ้น ซึ่งทำให้แยกความแตกต่างการแจ้งเตือนแบบปลายเปิดจากการแจ้งเตือนในอดีตหรือเฉพาะเจาะจงส่วนบุคคล มีความขัดแย้งอย่างแท้จริงเกี่ยวกับเป้าหมายที่ถูกต้อง: การจับคู่สถิติในโลกแห่งความเป็นจริงในปัจจุบันสามารถทำลายความไม่เท่าเทียมกันที่มีอยู่ได้ ในขณะที่การเป็นตัวแทนแบบเดียวกันสามารถบิดเบือนความเป็นจริงได้ ตัวเลือกนั้นเป็นการตัดสินใจเรื่องคุณค่า ไม่ใช่การตัดสินใจทางเทคนิคเท่านั้น และองค์กรต่างๆ มักจะถูกขอให้อธิบาย ผู้ใช้จะยังคงต้องตรวจสอบภาพที่สร้างขึ้นก่อนที่จะเผยแพร่ โดยเฉพาะอย่างยิ่งในด้านการศึกษาและข่าวสาร
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
- ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ
ระวัง
- การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
- ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
- ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ
ขั้นตอนต่อไป
- แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
- ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
- ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
- ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
Take the Bias and Stereotypes in AI Image Generators quiz
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
อคติและแบบแผนในตัวสร้างภาพ AI คืออะไร
โปรแกรมสร้างภาพ AI มักจะสร้างซ้ำและพูดแบบเหมารวมเกินจริง เช่น การแสดงภาพผู้ชายส่วนใหญ่เป็น "CEO" หรือ "วิศวกร" ซึ่งส่วนใหญ่เป็นคนที่มีผิวสีแทนสำหรับงานที่มีสถานะสูง และมาตรฐานความงามที่แคบ เพราะพวกเขาเรียนรู้จากคอลเลกชันภาพคำบรรยายทางอินเทอร์เน็ตขนาดใหญ่ที่บิดเบี้ยว นักวิจัยวัดสิ่งนี้ด้วยการสร้างภาพจำนวนมากเพื่อแจ้งข้อความที่เป็นกลางและเปรียบเทียบว่าใครปรากฏ สิ่งสำคัญคือเพราะตอนนี้รูปภาพเหล่านี้เติมเต็มโฆษณา หนังสือเรียน และข่าวสาร และทั้งอคติและการแก้ไขที่งุ่มง่ามอาจทำให้ผู้คนเข้าใจผิดได้
เหตุใดข้อความที่ไม่กล่าวถึงเพศหรือชาติพันธุ์จึงยังสร้างภาพลักษณ์ที่มีอคติอยู่
เมื่อไม่มีข้อกำหนดเฉพาะ โมเดลจะสร้างค่าเริ่มต้นที่มีความเป็นไปได้สูง และค่าเริ่มต้นนั้นจะสะท้อนและมักจะขยายภาพเหมารวมในข้อมูลการฝึก
โมเดลอย่าง Stable Diffusion เรียนรู้จากข้อมูลประเภทใด
ชุดข้อมูล เช่น LAION-5B ประกอบด้วยคู่ข้อความรูปภาพและข้อความที่คัดลอกมาจากเว็บหลายพันล้านคู่ ซึ่งทำให้เกิดความไม่สมดุลของเว็บ
วิธีการทั่วไปที่นักวิจัยใช้ในการวัดอคติในตัวสร้างภาพคืออะไร
นักวิจัยสร้างภาพหลายร้อยภาพต่อการแจ้งเตือนที่เป็นกลาง และวิเคราะห์คุณลักษณะที่รับรู้ ซึ่งบางครั้งก็เทียบกับสถิติในโลกแห่งความเป็นจริง
เหตุใดโครงการ Stable Bias จึงใช้การจัดกลุ่มแทนการติดป้ายกำกับการแข่งขันโดยตรง
การกำหนดเชื้อชาติจากรูปลักษณ์ภายนอกนั้นไม่น่าเชื่อถือและเป็นปัญหาทางจริยธรรม ดังนั้นการรวมกลุ่มผลลัพธ์จึงเป็นวิธีหนึ่งในการเปรียบเทียบแบบจำลองโดยไม่ต้องติดป้ายกำกับ
การวิเคราะห์รูปภาพ Stable Diffusion ของ Bloomberg ในปี 2023 พบอะไร
การวิเคราะห์พบว่าอาชีพที่มีรายได้สูงจะหันไปทางผู้ชายที่มีผิวสีอ่อน และอาชีพที่มีรายได้น้อยกว่าจะหันไปทางผู้ชายที่มีสีผิวคล้ำ
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้