จินนี่ สิ่งเจือปน

ตัวแยกประเภทแผนผังการตัดสินใจจะแบ่งข้อมูลออกเป็นขอบเขตซ้ำๆ ในการแบ่งผู้สมัครแต่ละครั้ง ทรีจำเป็นต้องมีเกณฑ์ว่าโหนดย่อยที่เป็นผลลัพธ์จะแยกป้ายกำกับคลาสได้ดีเพียงใด สิ่งเจือปน Gini สำหรับโหนดคือ 1 ลบด้วยผลรวมของสัดส่วนคลาสกำลังสอง สำหรับคลาสที่มีสัดส่วน p_k, G = 1 - sum(p_k กำลังสอง) โหนดบริสุทธิ์มีสัดส่วนหนึ่งเท่ากับหนึ่งและส่วนอื่นๆ ทั้งหมดเป็นศูนย์ ดังนั้น G จึงเป็นศูนย์ ในโหนดไบนารี่ที่มีสัดส่วนสมดุล 0.5 และ 0.5 G คือ 0.5 ซึ่งเป็นค่าสูงสุดสำหรับสองชั้น สำหรับโหนดสมมุติที่มีกรณีบวก 8 กรณีและกรณีลบ 2 กรณี สัดส่วนคือ 0.8 และ 0.2 การคำนวณคือ 1 - (0.64 + 0.04) = 0.32 คะแนนนี้สามารถตีความได้ว่าเป็นความน่าจะเป็นของการจัดประเภทที่ไม่ถูกต้อง หากป้ายกำกับถูกกำหนดโดยการสุ่มวาดตามสัดส่วนคลาสของโหนด แม้ว่าต้นไม้ที่ได้รับการฝึกตามปกติจะทำนายคลาสส่วนใหญ่ก็ตาม CART ประเมินการแยกผู้สมัครตามค่าความไม่บริสุทธิ์โดยเฉลี่ยแบบถ่วงน้ำหนักในเด็ก โดยให้น้ำหนักแต่ละรายการตามส่วนแบ่งของการสังเกตของผู้ปกครอง สิ่งเจือปนที่ลดลงคือสิ่งเจือปนพาเรนต์ลบด้วยสิ่งเจือปนลูกที่ถ่วงน้ำหนักนี้ ดังนั้นเด็กที่ดูว่างเปล่าหรือตัวเล็กมากไม่ได้ทำให้การแบ่งแยกมีประโยชน์โดยอัตโนมัติ ข้อจำกัดของต้นไม้ เช่น ขนาดใบขั้นต่ำ ความลึก และการตัดแต่งกิ่งก็ส่งผลต่อแบบจำลองขั้นสุดท้ายเช่นกัน Gini มีความสะดวกในการคำนวณเนื่องจากหลีกเลี่ยงลอการิทึม ในขณะที่เอนโทรปีใช้ -sum(p log p) และอาจจัดอันดับการแยกผู้สมัครในทำนองเดียวกัน แต่ไม่จำเป็นต้องเหมือนกันเสมอไป ความไม่บริสุทธิ์ของ Gini นั้นไม่เหมือนกับความไม่สมดุลของคลาสโดยรวมของชุดข้อมูล ความน่าจะเป็นที่การคาดการณ์ของแบบจำลองจะผิด หรือคะแนนการประเมินผลของข้อมูลที่เก็บไว้ มีการคำนวณภายในเครื่องที่โหนดจากป้ายกำกับที่มีอยู่ ต้นไม้สามารถบรรลุใบฝึกหัดที่บริสุทธิ์ได้โดยการเติบโตอย่างลึกซึ้งและยังคงพูดได้ไม่ดี ประเมินโมเดลแบบเต็มด้วยการแยกส่วนที่เหมาะสม และตรวจสอบข้อผิดพลาดเฉพาะคลาส การสอบเทียบเมื่อจำเป็น และความเสถียร เกณฑ์การปนเปื้อนเป็นแนวทางในการก่อสร้าง ไม่ได้กำหนดว่าคุณลักษณะต่างๆ นั้นมีสาเหตุหรือการคาดการณ์ว่ามีประโยชน์หรือไม่