คู่มือสังคม
ทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรม
ผลลัพธ์ที่เป็นไปไม่ได้หลายรายการแสดงให้เห็นว่าเกณฑ์ความเป็นธรรมทางสถิติทั่วไปอาจขัดแย้งกัน
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 3 นาที
ภาพรวม
สำหรับคะแนนความเสี่ยงที่มีอัตราฐานกลุ่มที่แตกต่างกันและการทำนายที่ไม่สมบูรณ์ การสอบเทียบ และเงื่อนไขความสมดุลของคะแนนสองเงื่อนไข—คะแนนเฉลี่ยภายในกลุ่มผลลัพธ์เชิงบวกและเชิงลบ—โดยทั่วไปไม่สามารถยึดถือได้ทั้งหมดอย่างแน่นอน ผลลัพธ์ตัวแยกประเภทที่เกี่ยวข้องเกี่ยวข้องกับอัตราข้อผิดพลาดตามเกณฑ์
เจาะลึก
“ทฤษฎีบทความเป็นไปไม่ได้” เป็นการจดชวเลขสำหรับผลลัพธ์หลายรายการเกี่ยวกับเกณฑ์ความเป็นธรรมทางสถิติที่เข้ากันไม่ได้ รายงานประจำปี 2559 ของ Kleinberg, Mullainathan และ Raghavan ได้กำหนดเงื่อนไขระดับคะแนนสามประการอย่างเป็นทางการ: การสอบเทียบภายในกลุ่ม; สมดุลสำหรับประเภทเชิงบวก หมายถึงคะแนนเฉลี่ยของผู้ที่มีผลเชิงบวกจะเท่ากันในทุกกลุ่ม และสมดุลสำหรับกลุ่มเชิงลบ ซึ่งหมายความว่าคะแนนเฉลี่ยของผู้ที่มีผลเชิงลบจะเท่ากันทุกกลุ่ม ยกเว้นในกรณีที่จำกัด—รวมถึงอัตราฐานที่เท่ากันหรือการทำนายที่สมบูรณ์แบบ—เราไม่สามารถตอบสนองทั้งสามอย่างพร้อมกันได้ เงื่อนไขความสมดุลระดับบวกและลบเหล่านี้จะเปรียบเทียบคะแนนเฉลี่ยตามเงื่อนไขของผลลัพธ์ พวกมันไม่ใช่ความเท่าเทียมกันของอัตราบวกลวงหรือลบลวงโดยตรงหลังจากกำหนดขีดจำกัด การสอบเทียบหมายความว่าในบรรดาผู้ที่ได้รับคะแนนที่กำหนด ความถี่ของผลลัพธ์ที่สังเกตได้จะตรงกับคะแนนภายในแต่ละกลุ่ม ตัวแยกประเภทใช้เกณฑ์กับคะแนนและกำหนดการตัดสินใจแบบไม่ต่อเนื่อง ผลลัพธ์ที่เกี่ยวข้องในปี 2560 ของ Chouldechova กล่าวถึงตัวแยกประเภทตามเกณฑ์: ด้วยความชุกของผลลัพธ์ที่แตกต่างกันและผู้ทำนายที่ไม่สมบูรณ์ ความเท่าเทียมกันในการทำนาย และอัตราบวกลวง / ลบลวงที่เท่ากันโดยทั่วไปไม่สามารถถือได้ทั้งคู่ ความสมดุลของอัตราข้อผิดพลาดระดับตัวแยกประเภทนั้นเกี่ยวข้อง แต่แตกต่างจากเงื่อนไขความสมดุลระดับบวกและลบระดับคะแนนใน Kleinberg และคณะ ผลลัพธ์เหล่านี้ขึ้นอยู่กับเป้าหมาย อัตราฐาน คุณภาพคะแนน และเกณฑ์ที่เลือก พวกเขาไม่ได้สร้างความเป็นไปไม่ได้ที่เป็นสากลของความยุติธรรม ทฤษฎีบทไม่ได้บอกผู้มีอำนาจตัดสินใจว่าเกณฑ์ใดในการจัดลำดับความสำคัญ โดยระบุว่าป้ายกำกับที่สังเกตนั้นเป็นความจริงภาคพื้นดินที่ถูกต้อง หรือรับประกันว่าการปรับเมตริกตัวใดตัวหนึ่งให้เหมาะสมจะสร้างผลลัพธ์ที่ยุติธรรม บริบทที่สำคัญ: ผลบวกลวงและผลลบลวงอาจมีต้นทุนที่แตกต่างกัน คะแนนอาจใช้เป็นการจัดอันดับมากกว่าความน่าจะเป็น และป้ายกำกับกลุ่มหรือผลลัพธ์สามารถสะท้อนถึงข้อเสียเชิงโครงสร้างได้ Woodworth และเพื่อนร่วมงานศึกษาเงื่อนไขที่บุคคลหนึ่งสามารถเรียนรู้การนำเสนอที่ยุติธรรมในขณะที่ต้องเผชิญข้อดีข้อเสีย ซึ่งแสดงให้เห็นเพิ่มเติมว่าข้อสรุปขึ้นอยู่กับการตั้งค่าที่เป็นทางการ การใช้งานอย่างมีความรับผิดชอบจำเป็นต้องระบุสมมติฐานและตัวเลือกนโยบาย รายงานผลอันตราย และพิจารณาแนวทางขั้นตอนและสาเหตุนอกเหนือจากการวัดความเท่าเทียมกันทางสถิติ
การใช้งานจริงในโลกแห่งความเป็นจริง
ทีมคะแนนความเสี่ยงระบุว่าจะจัดลำดับความสำคัญของการสอบเทียบ อัตราข้อผิดพลาดที่เท่ากัน หรือเกณฑ์อื่นก่อนที่จะเปรียบเทียบกลุ่ม
การตรวจสอบการให้กู้ยืมจะรายงานอัตราฐานและอัตราบวกลวง/ลบลวง เพื่อให้ผู้มีส่วนได้ส่วนเสียสามารถดูได้ว่าคุณสมบัติด้านความเป็นธรรมข้อใดขัดแย้งกัน
ผู้กำหนดนโยบายอธิบายว่าเหตุใดจึงจัดลำดับความสำคัญของเมตริกหนึ่งเนื่องจากผลเสียของการตัดสินใจ แทนที่จะอ้างว่าเป็นทฤษฎีบททางคณิตศาสตร์ที่เลือกนโยบาย
ผู้ตรวจสอบแบบจำลองจะทดสอบว่าการแลกเปลี่ยนที่อ้างสิทธิ์นั้นมีผลหรือไม่ เนื่องจากอัตราฐานของกลุ่มแตกต่างกันและการคาดการณ์ไม่สมบูรณ์
อนาคตของทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรม
การวิจัยด้านความเป็นธรรมยังคงปรับปรุงเงื่อนไขสำหรับคะแนน ตัวแยกประเภท กลุ่มหลายกลุ่ม และป้ายกำกับที่ไม่แน่นอน ปฏิบัติต่อทฤษฎีบทแต่ละทฤษฎีตามขอบเขตของสมมติฐาน และทบทวนตัวเลือกเมตริกเมื่ออัตราพื้นฐาน คำจำกัดความของผลลัพธ์ หรือเกณฑ์การตัดสินใจเปลี่ยนแปลง เก็บบันทึกวันที่ของแหล่งที่มาหลักหรือการศึกษาเบื้องหลังการอ้างสิทธิ์แต่ละรายการ และทบทวนข้อสรุปอีกครั้งเมื่อมีหลักฐานใหม่หรือรายละเอียดการดำเนินการเกิดขึ้น งานที่ใหม่กว่าจะตรวจสอบประเภทคะแนนทางเลือกมากกว่าสองกลุ่มและป้ายกำกับที่ไม่สมบูรณ์ ส่วนขยายเหล่านี้ไม่ได้ขจัดความจำเป็นในการระบุสมมติฐานและวัตถุประสงค์ของนโยบายที่แท้จริง
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
- ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ
ระวัง
- การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
- ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
- ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ
ขั้นตอนต่อไป
- แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
- ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
- ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
- ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
Take the The Impossibility Theorem of Fairness quiz
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
ทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรมคืออะไร?
ผลลัพธ์ที่เป็นไปไม่ได้หลายรายการแสดงให้เห็นว่าเกณฑ์ความเป็นธรรมทางสถิติทั่วไปอาจขัดแย้งกัน สำหรับคะแนนความเสี่ยงที่มีอัตราฐานกลุ่มที่แตกต่างกันและการทำนายที่ไม่สมบูรณ์ การสอบเทียบ และเงื่อนไขความสมดุลของคะแนนสองเงื่อนไข—คะแนนเฉลี่ยภายในกลุ่มผลลัพธ์เชิงบวกและเชิงลบ—โดยทั่วไปไม่สามารถยึดถือได้ทั้งหมดอย่างแน่นอน ผลลัพธ์ตัวแยกประเภทที่เกี่ยวข้องเกี่ยวข้องกับอัตราข้อผิดพลาดตามเกณฑ์
เงื่อนไข 3 ข้อใดที่เป็นศูนย์กลางของผลลัพธ์ของไคลน์เบิร์ก–มุลไลนาธาน–รากาวัน
เอกสารนี้จะกำหนดเงื่อนไขการสอบเทียบและความสมดุลอย่างเป็นทางการสำหรับคลาสเชิงบวกและเชิงลบ
เงื่อนไขทั้งสามประการสามารถหลีกเลี่ยงความขัดแย้งที่ระบุไว้ได้ในกรณีพิเศษทั่วไปใดบ้าง
ทฤษฎีบทระบุกรณีที่มีข้อจำกัด รวมถึงอัตราฐานที่เท่ากันหรือการทำนายที่สมบูรณ์แบบ
การสอบเทียบภายในกลุ่มหมายถึงอะไร
การสอบเทียบหมายความว่าคะแนนสอดคล้องกับความถี่ผลลัพธ์ที่สังเกตได้ภายในแต่ละกลุ่ม
สำหรับตัวแยกประเภทตามเกณฑ์ เกณฑ์อัตราความผิดพลาด-อัตรา-สมดุลที่เกี่ยวข้องกับ Chouldechova เปรียบเทียบอัตราใด
เกณฑ์ระดับตัวแยกประเภทที่เกี่ยวข้องนี้จะเปรียบเทียบอัตราบวกลวงและลบลวงระหว่างกลุ่มหลังจากเกณฑ์การตัดสินใจ มันแตกต่างจากเงื่อนไขสมดุลระดับคะแนนของ KMR
อัตราฐานที่แตกต่างกันมีบทบาทอย่างไรในผลลัพธ์ที่เข้ากันไม่ได้
ความไม่เข้ากันเกิดขึ้นภายใต้ความชุกของกลุ่มที่แตกต่างกันเมื่อการคาดการณ์ไม่สมบูรณ์แบบ
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้