คู่มือสังคม

ทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรม

ผลลัพธ์ที่เป็นไปไม่ได้หลายรายการแสดงให้เห็นว่าเกณฑ์ความเป็นธรรมทางสถิติทั่วไปอาจขัดแย้งกัน

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรม
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

สำหรับคะแนนความเสี่ยงที่มีอัตราฐานกลุ่มที่แตกต่างกันและการทำนายที่ไม่สมบูรณ์ การสอบเทียบ และเงื่อนไขความสมดุลของคะแนนสองเงื่อนไข—คะแนนเฉลี่ยภายในกลุ่มผลลัพธ์เชิงบวกและเชิงลบ—โดยทั่วไปไม่สามารถยึดถือได้ทั้งหมดอย่างแน่นอน ผลลัพธ์ตัวแยกประเภทที่เกี่ยวข้องเกี่ยวข้องกับอัตราข้อผิดพลาดตามเกณฑ์

เจาะลึก

“ทฤษฎีบทความเป็นไปไม่ได้” เป็นการจดชวเลขสำหรับผลลัพธ์หลายรายการเกี่ยวกับเกณฑ์ความเป็นธรรมทางสถิติที่เข้ากันไม่ได้ รายงานประจำปี 2559 ของ Kleinberg, Mullainathan และ Raghavan ได้กำหนดเงื่อนไขระดับคะแนนสามประการอย่างเป็นทางการ: การสอบเทียบภายในกลุ่ม; สมดุลสำหรับประเภทเชิงบวก หมายถึงคะแนนเฉลี่ยของผู้ที่มีผลเชิงบวกจะเท่ากันในทุกกลุ่ม และสมดุลสำหรับกลุ่มเชิงลบ ซึ่งหมายความว่าคะแนนเฉลี่ยของผู้ที่มีผลเชิงลบจะเท่ากันทุกกลุ่ม ยกเว้นในกรณีที่จำกัด—รวมถึงอัตราฐานที่เท่ากันหรือการทำนายที่สมบูรณ์แบบ—เราไม่สามารถตอบสนองทั้งสามอย่างพร้อมกันได้ เงื่อนไขความสมดุลระดับบวกและลบเหล่านี้จะเปรียบเทียบคะแนนเฉลี่ยตามเงื่อนไขของผลลัพธ์ พวกมันไม่ใช่ความเท่าเทียมกันของอัตราบวกลวงหรือลบลวงโดยตรงหลังจากกำหนดขีดจำกัด การสอบเทียบหมายความว่าในบรรดาผู้ที่ได้รับคะแนนที่กำหนด ความถี่ของผลลัพธ์ที่สังเกตได้จะตรงกับคะแนนภายในแต่ละกลุ่ม ตัวแยกประเภทใช้เกณฑ์กับคะแนนและกำหนดการตัดสินใจแบบไม่ต่อเนื่อง ผลลัพธ์ที่เกี่ยวข้องในปี 2560 ของ Chouldechova กล่าวถึงตัวแยกประเภทตามเกณฑ์: ด้วยความชุกของผลลัพธ์ที่แตกต่างกันและผู้ทำนายที่ไม่สมบูรณ์ ความเท่าเทียมกันในการทำนาย และอัตราบวกลวง / ลบลวงที่เท่ากันโดยทั่วไปไม่สามารถถือได้ทั้งคู่ ความสมดุลของอัตราข้อผิดพลาดระดับตัวแยกประเภทนั้นเกี่ยวข้อง แต่แตกต่างจากเงื่อนไขความสมดุลระดับบวกและลบระดับคะแนนใน Kleinberg และคณะ ผลลัพธ์เหล่านี้ขึ้นอยู่กับเป้าหมาย อัตราฐาน คุณภาพคะแนน และเกณฑ์ที่เลือก พวกเขาไม่ได้สร้างความเป็นไปไม่ได้ที่เป็นสากลของความยุติธรรม ทฤษฎีบทไม่ได้บอกผู้มีอำนาจตัดสินใจว่าเกณฑ์ใดในการจัดลำดับความสำคัญ โดยระบุว่าป้ายกำกับที่สังเกตนั้นเป็นความจริงภาคพื้นดินที่ถูกต้อง หรือรับประกันว่าการปรับเมตริกตัวใดตัวหนึ่งให้เหมาะสมจะสร้างผลลัพธ์ที่ยุติธรรม บริบทที่สำคัญ: ผลบวกลวงและผลลบลวงอาจมีต้นทุนที่แตกต่างกัน คะแนนอาจใช้เป็นการจัดอันดับมากกว่าความน่าจะเป็น และป้ายกำกับกลุ่มหรือผลลัพธ์สามารถสะท้อนถึงข้อเสียเชิงโครงสร้างได้ Woodworth และเพื่อนร่วมงานศึกษาเงื่อนไขที่บุคคลหนึ่งสามารถเรียนรู้การนำเสนอที่ยุติธรรมในขณะที่ต้องเผชิญข้อดีข้อเสีย ซึ่งแสดงให้เห็นเพิ่มเติมว่าข้อสรุปขึ้นอยู่กับการตั้งค่าที่เป็นทางการ การใช้งานอย่างมีความรับผิดชอบจำเป็นต้องระบุสมมติฐานและตัวเลือกนโยบาย รายงานผลอันตราย และพิจารณาแนวทางขั้นตอนและสาเหตุนอกเหนือจากการวัดความเท่าเทียมกันทางสถิติ

การใช้งานจริงในโลกแห่งความเป็นจริง

ทีมคะแนนความเสี่ยงระบุว่าจะจัดลำดับความสำคัญของการสอบเทียบ อัตราข้อผิดพลาดที่เท่ากัน หรือเกณฑ์อื่นก่อนที่จะเปรียบเทียบกลุ่ม

การตรวจสอบการให้กู้ยืมจะรายงานอัตราฐานและอัตราบวกลวง/ลบลวง เพื่อให้ผู้มีส่วนได้ส่วนเสียสามารถดูได้ว่าคุณสมบัติด้านความเป็นธรรมข้อใดขัดแย้งกัน

ผู้กำหนดนโยบายอธิบายว่าเหตุใดจึงจัดลำดับความสำคัญของเมตริกหนึ่งเนื่องจากผลเสียของการตัดสินใจ แทนที่จะอ้างว่าเป็นทฤษฎีบททางคณิตศาสตร์ที่เลือกนโยบาย

ผู้ตรวจสอบแบบจำลองจะทดสอบว่าการแลกเปลี่ยนที่อ้างสิทธิ์นั้นมีผลหรือไม่ เนื่องจากอัตราฐานของกลุ่มแตกต่างกันและการคาดการณ์ไม่สมบูรณ์

อนาคตของทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรม

การวิจัยด้านความเป็นธรรมยังคงปรับปรุงเงื่อนไขสำหรับคะแนน ตัวแยกประเภท กลุ่มหลายกลุ่ม และป้ายกำกับที่ไม่แน่นอน ปฏิบัติต่อทฤษฎีบทแต่ละทฤษฎีตามขอบเขตของสมมติฐาน และทบทวนตัวเลือกเมตริกเมื่ออัตราพื้นฐาน คำจำกัดความของผลลัพธ์ หรือเกณฑ์การตัดสินใจเปลี่ยนแปลง เก็บบันทึกวันที่ของแหล่งที่มาหลักหรือการศึกษาเบื้องหลังการอ้างสิทธิ์แต่ละรายการ และทบทวนข้อสรุปอีกครั้งเมื่อมีหลักฐานใหม่หรือรายละเอียดการดำเนินการเกิดขึ้น งานที่ใหม่กว่าจะตรวจสอบประเภทคะแนนทางเลือกมากกว่าสองกลุ่มและป้ายกำกับที่ไม่สมบูรณ์ ส่วนขยายเหล่านี้ไม่ได้ขจัดความจำเป็นในการระบุสมมติฐานและวัตถุประสงค์ของนโยบายที่แท้จริง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
  • ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ

ระวัง

  • การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
  • ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
  • ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ

ขั้นตอนต่อไป

  1. แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
  2. ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
  3. ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
  4. ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the The Impossibility Theorem of Fairness quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

ทฤษฎีบทความเป็นไปไม่ได้ของความเป็นธรรมคืออะไร?

ผลลัพธ์ที่เป็นไปไม่ได้หลายรายการแสดงให้เห็นว่าเกณฑ์ความเป็นธรรมทางสถิติทั่วไปอาจขัดแย้งกัน สำหรับคะแนนความเสี่ยงที่มีอัตราฐานกลุ่มที่แตกต่างกันและการทำนายที่ไม่สมบูรณ์ การสอบเทียบ และเงื่อนไขความสมดุลของคะแนนสองเงื่อนไข—คะแนนเฉลี่ยภายในกลุ่มผลลัพธ์เชิงบวกและเชิงลบ—โดยทั่วไปไม่สามารถยึดถือได้ทั้งหมดอย่างแน่นอน ผลลัพธ์ตัวแยกประเภทที่เกี่ยวข้องเกี่ยวข้องกับอัตราข้อผิดพลาดตามเกณฑ์

เงื่อนไข 3 ข้อใดที่เป็นศูนย์กลางของผลลัพธ์ของไคลน์เบิร์ก–มุลไลนาธาน–รากาวัน

เอกสารนี้จะกำหนดเงื่อนไขการสอบเทียบและความสมดุลอย่างเป็นทางการสำหรับคลาสเชิงบวกและเชิงลบ

เงื่อนไขทั้งสามประการสามารถหลีกเลี่ยงความขัดแย้งที่ระบุไว้ได้ในกรณีพิเศษทั่วไปใดบ้าง

ทฤษฎีบทระบุกรณีที่มีข้อจำกัด รวมถึงอัตราฐานที่เท่ากันหรือการทำนายที่สมบูรณ์แบบ

การสอบเทียบภายในกลุ่มหมายถึงอะไร

การสอบเทียบหมายความว่าคะแนนสอดคล้องกับความถี่ผลลัพธ์ที่สังเกตได้ภายในแต่ละกลุ่ม

สำหรับตัวแยกประเภทตามเกณฑ์ เกณฑ์อัตราความผิดพลาด-อัตรา-สมดุลที่เกี่ยวข้องกับ Chouldechova เปรียบเทียบอัตราใด

เกณฑ์ระดับตัวแยกประเภทที่เกี่ยวข้องนี้จะเปรียบเทียบอัตราบวกลวงและลบลวงระหว่างกลุ่มหลังจากเกณฑ์การตัดสินใจ มันแตกต่างจากเงื่อนไขสมดุลระดับคะแนนของ KMR

อัตราฐานที่แตกต่างกันมีบทบาทอย่างไรในผลลัพธ์ที่เข้ากันไม่ได้

ความไม่เข้ากันเกิดขึ้นภายใต้ความชุกของกลุ่มที่แตกต่างกันเมื่อการคาดการณ์ไม่สมบูรณ์แบบ

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →