คู่มือทางเทคนิค

จินนี่ สิ่งเจือปน

สิ่งเจือปนของ Gini จะวัดว่าเลเบลคลาสผสมกันอย่างไรในโหนดแผนผังการตัดสินใจ โดยที่ศูนย์บ่งชี้ว่าทุกตัวอย่างอยู่ในคลาสเดียว

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของความไม่บริสุทธิ์ของจินี่
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

ตัวแยกประเภท CART ใช้การลดสิ่งเจือปนที่คาดหวังจากการแยกตัวเลือกเพื่อเลือกพาร์ติชัน แต่คะแนนจะเป็นเกณฑ์การแยกในเครื่องแทนที่จะเป็นการวัดคุณภาพของแบบจำลองโดยสมบูรณ์

เจาะลึก

ตัวแยกประเภทแผนผังการตัดสินใจจะแบ่งข้อมูลออกเป็นขอบเขตซ้ำๆ ในการแบ่งผู้สมัครแต่ละครั้ง ทรีจำเป็นต้องมีเกณฑ์ว่าโหนดย่อยที่เป็นผลลัพธ์จะแยกป้ายกำกับคลาสได้ดีเพียงใด สิ่งเจือปน Gini สำหรับโหนดคือ 1 ลบด้วยผลรวมของสัดส่วนคลาสกำลังสอง สำหรับคลาสที่มีสัดส่วน p_k, G = 1 - sum(p_k กำลังสอง) โหนดบริสุทธิ์มีสัดส่วนหนึ่งเท่ากับหนึ่งและส่วนอื่นๆ ทั้งหมดเป็นศูนย์ ดังนั้น G จึงเป็นศูนย์ ในโหนดไบนารี่ที่มีสัดส่วนสมดุล 0.5 และ 0.5 G คือ 0.5 ซึ่งเป็นค่าสูงสุดสำหรับสองชั้น สำหรับโหนดสมมุติที่มีกรณีบวก 8 กรณีและกรณีลบ 2 กรณี สัดส่วนคือ 0.8 และ 0.2 การคำนวณคือ 1 - (0.64 + 0.04) = 0.32 คะแนนนี้สามารถตีความได้ว่าเป็นความน่าจะเป็นของการจัดประเภทที่ไม่ถูกต้อง หากป้ายกำกับถูกกำหนดโดยการสุ่มวาดตามสัดส่วนคลาสของโหนด แม้ว่าต้นไม้ที่ได้รับการฝึกตามปกติจะทำนายคลาสส่วนใหญ่ก็ตาม CART ประเมินการแยกผู้สมัครตามค่าความไม่บริสุทธิ์โดยเฉลี่ยแบบถ่วงน้ำหนักในเด็ก โดยให้น้ำหนักแต่ละรายการตามส่วนแบ่งของการสังเกตของผู้ปกครอง สิ่งเจือปนที่ลดลงคือสิ่งเจือปนพาเรนต์ลบด้วยสิ่งเจือปนลูกที่ถ่วงน้ำหนักนี้ ดังนั้นเด็กที่ดูว่างเปล่าหรือตัวเล็กมากไม่ได้ทำให้การแบ่งแยกมีประโยชน์โดยอัตโนมัติ ข้อจำกัดของต้นไม้ เช่น ขนาดใบขั้นต่ำ ความลึก และการตัดแต่งกิ่งก็ส่งผลต่อแบบจำลองขั้นสุดท้ายเช่นกัน Gini มีความสะดวกในการคำนวณเนื่องจากหลีกเลี่ยงลอการิทึม ในขณะที่เอนโทรปีใช้ -sum(p log p) และอาจจัดอันดับการแยกผู้สมัครในทำนองเดียวกัน แต่ไม่จำเป็นต้องเหมือนกันเสมอไป ความไม่บริสุทธิ์ของ Gini นั้นไม่เหมือนกับความไม่สมดุลของคลาสโดยรวมของชุดข้อมูล ความน่าจะเป็นที่การคาดการณ์ของแบบจำลองจะผิด หรือคะแนนการประเมินผลของข้อมูลที่เก็บไว้ มีการคำนวณภายในเครื่องที่โหนดจากป้ายกำกับที่มีอยู่ ต้นไม้สามารถบรรลุใบฝึกหัดที่บริสุทธิ์ได้โดยการเติบโตอย่างลึกซึ้งและยังคงพูดได้ไม่ดี ประเมินโมเดลแบบเต็มด้วยการแยกส่วนที่เหมาะสม และตรวจสอบข้อผิดพลาดเฉพาะคลาส การสอบเทียบเมื่อจำเป็น และความเสถียร เกณฑ์การปนเปื้อนเป็นแนวทางในการก่อสร้าง ไม่ได้กำหนดว่าคุณลักษณะต่างๆ นั้นมีสาเหตุหรือการคาดการณ์ว่ามีประโยชน์หรือไม่

การใช้งานจริงในโลกแห่งความเป็นจริง

โหนดประกอบด้วยกรณีบวก 8 กรณีและกรณีลบ 2 กรณี สิ่งเจือปนของจินีคือ 1 - (0.8 กำลังสอง + 0.2 กำลังสอง) = 0.32 ซึ่งแสดงถึงโอกาสที่จะมีป้ายกำกับที่แตกต่างกัน หากดึงป้ายกำกับสองป้ายแยกจากสัดส่วนของชั้นเรียน

การแยกทางสมมุติฐานทำให้เกิดเด็กบริสุทธิ์หนึ่งคนและเด็กผสมหนึ่งคน สิ่งเจือปนพาเรนต์จะต้องถูกเปรียบเทียบกับสิ่งเจือปนย่อยที่ถ่วงน้ำหนักตามสัดส่วนตัวอย่าง เด็กเล็กๆ ที่บริสุทธิ์เพียงลำพังไม่ได้สร้างความแตกแยกที่ดี

ทีมงานเปรียบเทียบต้นไม้โดยใช้ Gini กับต้นไม้ที่ใช้เอนโทรปี จากนั้นประเมินการคาดการณ์ที่ค้างอยู่ ตัวเลือกการแบ่งที่คล้ายกันไม่รับประกันต้นไม้ที่เหมือนกันหรือลักษณะทั่วไปที่เท่าเทียมกัน

โหนดมีสัดส่วนคลาส 0.5 และ 0.5 ซึ่งให้ผลไม่บริสุทธิ์ 0.5 ในกรณีไบนารี โหนดที่มี 0.9 และ 0.1 มีความเจือปน 0.18 และมีความเข้มข้นมากกว่า

อนาคตของความไม่บริสุทธิ์ของจินี่

คำอธิบายแบบต้นไม้สามารถทำให้เกณฑ์การแยกมีประโยชน์มากขึ้นโดยการแสดงสัดส่วนของคลาสหลัก สัดส่วนของเด็ก และการเปลี่ยนแปลงสิ่งเจือปนแบบถ่วงน้ำหนักร่วมกัน ทีมควรตรวจสอบขนาดลีฟและประสิทธิภาพของชั้นเรียนที่จัดไว้ เพื่อให้พาร์ติชั่นการฝึกอบรมที่สะอาดตาไม่ครอบงำการตัดสิน เมื่อความไม่สมดุลของชั้นเรียนมีความสำคัญ ให้ประเมินผลลัพธ์ของชนกลุ่มน้อยควบคู่ไปกับการลดความไม่บริสุทธิ์ กระบวนการเชิงปฏิบัติจะบันทึกเกณฑ์ ทางเลือกในการตัด และการออกแบบการตรวจสอบ จากนั้นจะทบทวนอีกครั้งเมื่อกระบวนการประชากรหรือฉลากเปลี่ยนแปลง การแสดงภาพที่ดีขึ้นสามารถชี้แจงได้ว่าทำไมจึงเลือกการแยก แต่เกณฑ์ยังคงเป็นส่วนหนึ่งของการประเมินแบบจำลองมากกว่าใบรับรองคุณภาพ

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Gini Impurity quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

Gini สิ่งเจือปนคืออะไร?

สิ่งเจือปนของ Gini จะวัดว่าเลเบลคลาสผสมกันอย่างไรในโหนดแผนผังการตัดสินใจ โดยที่ศูนย์บ่งชี้ว่าทุกตัวอย่างอยู่ในคลาสเดียว ตัวแยกประเภท CART ใช้การลดสิ่งเจือปนที่คาดหวังจากการแยกตัวเลือกเพื่อเลือกพาร์ติชัน แต่คะแนนจะเป็นเกณฑ์การแยกในเครื่องแทนที่จะเป็นการวัดคุณภาพของแบบจำลองโดยสมบูรณ์

โหนดไบนารี่มีสัดส่วนคลาส 0.8 และ 0.2 สิ่งเจือปนของ Gini คืออะไร?

หนึ่งลบ (0.8 กำลังสองบวก 0.2 กำลังสอง) เท่ากับ 1 - 0.68 = 0.32

ค่าใดอธิบายความไม่บริสุทธิ์ในโหนดที่มีคลาสเดียว

โหนดบริสุทธิ์มีสัดส่วนคลาสหนึ่งเท่ากับหนึ่ง ดังนั้น 1 ลบผลรวมของสัดส่วนกำลังสองจึงเป็นศูนย์

สิ่งสกปรกของเด็กควรนำมารวมกันอย่างไรเมื่อประเมินการแบ่งแยกผู้สมัคร

เกณฑ์การแยกใช้ค่าเฉลี่ยถ่วงน้ำหนักของสิ่งเจือปนย่อยขนาดตัวอย่าง

การลดลงของ Gini แสดงถึงอะไรในการสร้างต้นไม้?

กำไรจากการแยกคือสิ่งเจือปนของพาเรนต์ลบด้วยสิ่งเจือปนโดยเฉลี่ยถ่วงน้ำหนักหลังการแยก

ความแตกต่างระหว่าง Gini และ Entropy ข้อใดถูกต้อง

ทั้งสองคลาสการวัดผสมกันสำหรับการเลือกแยก แต่สูตรและมาตราส่วนตัวเลขต่างกัน

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →