คู่มือพื้นฐาน

ต้นไม้การตัดสินใจและป่าสุ่ม

แผนผังการตัดสินใจคาดการณ์โดยการถามคำถามง่ายๆ แบบใช่/ไม่ใช่ เช่น ผังงาน

ภาพรวม

แผนผังการตัดสินใจคาดการณ์โดยการถามคำถามง่ายๆ แบบใช่/ไม่ใช่ เช่น ผังงาน ป่าสุ่มจะรวมต้นไม้หลายร้อยต้นเข้าด้วยกันและปล่อยให้พวกมันลงคะแนน ซึ่งมีความแม่นยำและแข็งแกร่งกว่ามาก

ต้นไม้การตัดสินใจและป่าสุ่มอยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น

เจาะลึก

แผนผังการตัดสินใจจะแบ่งข้อมูลทีละขั้นตอน โดยในแต่ละโหนดจะเลือกคุณลักษณะและเกณฑ์ที่แยกผลลัพธ์ได้ดีที่สุด จากนั้นแยกย่อยจนกว่าจะถึงการคาดการณ์ทีละขั้นตอน ต้นไม้เป็นที่นิยมเพราะอ่านง่าย คุณสามารถติดตามได้อย่างชัดเจนว่าเหตุใดจึงตัดสินใจ จุดอ่อนของพวกเขาคือการติดตั้งมากเกินไป โดยที่ต้นไม้ลึกจะจดจำสัญญาณรบกวนและคาดการณ์ข้อมูลใหม่ได้ไม่ดี ฟอเรสต์แบบสุ่มแก้ไขปัญหานี้โดยการฝึกต้นไม้จำนวนมากเกี่ยวกับชุดย่อยแบบสุ่มของข้อมูล (เทคนิคที่เรียกว่าการบรรจุถุง) และชุดย่อยแบบสุ่มของคุณลักษณะในแต่ละการแยก ต้นไม้ทำผิดพลาดต่างกัน ดังนั้นการเฉลี่ยคะแนนเสียงของพวกเขาจะยกเลิกข้อผิดพลาดแต่ละรายการ ผลลัพธ์ที่ได้คือหนึ่งในอัลกอริธึมที่มีการปรับแต่งต่ำและน่าเชื่อถือที่สุดสำหรับข้อมูลแบบตาราง ซึ่งใช้กันอย่างแพร่หลายก่อนที่จะเข้าถึงการเรียนรู้เชิงลึก

ข้อมูลเชิงลึกทางเทคนิค

การแยกแต่ละครั้งจะถูกเลือกเพื่อเพิ่ม 'ความบริสุทธิ์' ให้สูงสุด ต้นไม้จำแนกประเภทลดสิ่งเจือปนหรือเอนโทรปีของ Gini ต้นไม้การถดถอยลดความแปรปรวน (ข้อผิดพลาดกำลังสอง) ฟอเรสต์สุ่มเพิ่มแหล่งที่มาของการสุ่มสองแหล่ง: การสุ่มตัวอย่างบูตสแตรป (ต้นไม้แต่ละต้นจะเห็นตัวอย่างสุ่มที่วาดพร้อมการแทนที่) และการเลือกคุณลักษณะแบบสุ่มในทุกการแยก สิ่งนี้จะสัมพันธ์กับต้นไม้ ดังนั้นการทำนายโดยเฉลี่ยจึงมีความแปรปรวนต่ำกว่าต้นไม้ต้นใดๆ มาก โดยไม่เพิ่มอคติมากนัก ตัวอย่างที่ออกจากถุงซึ่งเหลืออยู่ใน Bootstrap ของต้นไม้แต่ละต้นจะให้ค่าประมาณการตรวจสอบความถูกต้องในตัว

การเรียนรู้ต้นไม้การตัดสินใจและป่าสุ่ม

แผนผังการตัดสินใจคาดการณ์โดยการถามคำถามง่ายๆ แบบใช่/ไม่ใช่ เช่น ผังงาน ป่าสุ่มจะรวมต้นไม้หลายร้อยต้นเข้าด้วยกันและปล่อยให้พวกมันลงคะแนน ซึ่งมีความแม่นยำและแข็งแกร่งกว่ามาก ต้นไม้การตัดสินใจและป่าสุ่มอยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Decision Trees และ Random Forests เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งโดยใช้แผนผังการตัดสินใจและป่าสุ่มจะสร้างแบบจำลองเชิงแนวคิดที่แข็งแกร่งก่อน จากนั้นจึงแมปแบบจำลองเหล่านั้นกับข้อจำกัดในการผลิตจริง โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในเวลาเดียวกัน ทีมต่างๆ อาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของแผนผังการตัดสินใจและป่าสุ่ม

ป่าสุ่มธรรมดายังคงเป็นจุดเริ่มต้น แต่สปอตไลท์ได้เปลี่ยนไปใช้ต้นไม้ที่มีการไล่ระดับสีอย่าง XGBoost, LightGBM และ CatBoost ซึ่งสร้างต้นไม้ตามลำดับเพื่อแก้ไขข้อผิดพลาดก่อนหน้านี้ และบ่อยครั้งมีการแข่งขันข้อมูลแบบตารางอันดับต้นๆ เครือข่ายแบบต้นไม้เหล่านี้ยังคงมีประสิทธิภาพเหนือกว่าโครงข่ายประสาทเทียมบนชุดข้อมูลที่มีโครงสร้างจำนวนมาก คาดหวังการทำงานอย่างต่อเนื่องในด้านความเร็ว การฝึกอบรม GPU และโดยเฉพาะอย่างยิ่งเครื่องมืออธิบาย เช่น SHAP เนื่องจากความสามารถในการตีความเป็นเหตุผลสำคัญที่อุตสาหกรรมที่ได้รับการควบคุมยังคงเลือกแบบจำลองแบบต้นไม้มากกว่าการเรียนรู้เชิงลึกแบบกล่องดำ

การใช้งานจริงในโลกแห่งความเป็นจริง

การให้คะแนนเครดิตและการอนุมัติสินเชื่อ โดยที่ธนาคารให้ความสำคัญกับเส้นทางการตัดสินใจที่ชัดเจนและตรวจสอบได้

การทำนายความเสี่ยงทางการแพทย์จะระบุว่าปัจจัยของผู้ป่วยรายใดที่ทำให้เกิดการวินิจฉัยหรือการแจ้งเตือน

การคาดการณ์การเลิกใช้งานของลูกค้าจากบัญชีแบบตารางและข้อมูลการใช้งาน

การวิเคราะห์ความสำคัญของคุณลักษณะเพื่อจัดอันดับตัวแปรที่สำคัญที่สุดในชุดข้อมูล

รูปแบบการดำเนินงาน

ต้นไม้ตัดสินใจและป่าสุ่มในทางปฏิบัติ

การให้คะแนนเครดิตและการอนุมัติสินเชื่อ โดยที่ธนาคารให้ความสำคัญกับเส้นทางการตัดสินใจที่ชัดเจนและตรวจสอบได้

การให้คะแนนเครดิตและการอนุมัติสินเชื่อ โดยที่ธนาคารให้ความสำคัญกับเส้นทางการตัดสินใจที่ชัดเจนและตรวจสอบได้ ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อกำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ต้นไม้ตัดสินใจและป่าสุ่มในทางปฏิบัติ

การทำนายความเสี่ยงทางการแพทย์จะระบุว่าปัจจัยของผู้ป่วยรายใดที่ทำให้เกิดการวินิจฉัยหรือการแจ้งเตือน

การคาดการณ์ความเสี่ยงทางการแพทย์ที่ระบุว่าปัจจัยผู้ป่วยรายใดที่ผลักดันการวินิจฉัยหรือการแจ้งเตือน ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ต้นไม้ตัดสินใจและป่าสุ่มในทางปฏิบัติ

การคาดการณ์การเลิกใช้งานของลูกค้าจากบัญชีแบบตารางและข้อมูลการใช้งาน

การคาดการณ์การเลิกใช้งานของลูกค้าจากบัญชีแบบตารางและข้อมูลการใช้งาน ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ต้นไม้ตัดสินใจและป่าสุ่มในทางปฏิบัติ

การวิเคราะห์ความสำคัญของคุณลักษณะเพื่อจัดอันดับตัวแปรที่สำคัญที่สุดในชุดข้อมูล

การวิเคราะห์ความสำคัญของคุณลักษณะเพื่อจัดอันดับตัวแปรที่สำคัญที่สุดในชุดข้อมูล ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อกำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

แต่ละทีมอาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ

!

เกณฑ์มาตรฐานอาจดูแข็งแกร่งในขณะที่ประสิทธิภาพในโลกแห่งความเป็นจริงไม่เท่ากัน

!

การเพิกเฉยต่อคุณภาพข้อมูลและแผนการประเมินมักสร้างผลลัพธ์ที่เปราะบาง

แผนงานการดำเนินงาน

1

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

เอกสารที่แผนผังการตัดสินใจและป่าสุ่มช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า

เอกสารที่แผนผังการตัดสินใจและป่าสุ่มช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป