คู่มือพื้นฐาน

วิธีการทั้งมวลและการเพิ่มการไล่ระดับสี

วิธีการทั้งมวลรวมแบบจำลองง่ายๆ หลายแบบเข้าด้วยกัน ดังนั้นกลุ่มจึงสามารถคาดการณ์ได้ดีกว่าแบบจำลองเดียว

ภาพรวม

วิธีการทั้งมวลรวมแบบจำลองง่ายๆ หลายแบบเข้าด้วยกัน ดังนั้นกลุ่มจึงสามารถคาดการณ์ได้ดีกว่าแบบจำลองเดียว การเพิ่มระดับการไล่สีมีประสิทธิภาพมากที่สุด โดยจะสร้างแผนผังทีละรายการ โดยแต่ละแผนผังจะแก้ไขข้อผิดพลาดของลำดับสุดท้าย และครอบงำการเรียนรู้ของเครื่องแบบตารางในโลกแห่งความเป็นจริง

Ensemble Methods และ Gradient Boosting อยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น

เจาะลึก

วงดนตรีวางอยู่บนแนวคิดที่เรียบง่าย: ผู้เรียนที่อ่อนแอจำนวนมากเมื่อรวมกันแล้วจะสามารถสร้างผู้เรียนที่เข้มแข็งได้ สองครอบครัวเป็นผู้นำ การบรรจุถุง (เช่น ป่าสุ่ม) จะฝึกต้นไม้หลายต้นขนานกันกับตัวอย่างแบบสุ่มและหาค่าเฉลี่ย ซึ่งส่วนใหญ่จะช่วยลดความแปรปรวน การส่งเสริมโมเดลรถไฟตามลำดับ โดยแต่ละโมเดลมุ่งเน้นไปที่ข้อผิดพลาดของโมเดลก่อนหน้านี้ ซึ่งช่วยลดอคติเป็นหลัก การเพิ่มความไล่ระดับสีจะกำหนดกรอบต้นไม้ใหม่แต่ละต้นเป็นขั้นตอนที่เหมาะกับการไล่ระดับสีเชิงลบ — ข้อผิดพลาดที่เหลือ — ของฟังก์ชันการสูญเสียจนถึงตอนนี้ ไลบรารีเช่น XGBoost, LightGBM และ CatBoost เพิ่มการทำให้เป็นมาตรฐาน การแยกไฟล์อย่างชาญฉลาด และลูกเล่นความเร็ว สำหรับข้อมูลที่มีโครงสร้าง/ตาราง — การตรวจจับการฉ้อโกง การกำหนดราคา และการจัดอันดับ — วิธีการเหล่านี้เอาชนะการเรียนรู้เชิงลึกเป็นประจำและชนะการแข่งขัน Kaggle ส่วนใหญ่

ข้อมูลเชิงลึกทางเทคนิค

ในการเพิ่มระดับการไล่ระดับสี คุณจะเริ่มต้นด้วยการทำนายแบบคร่าวๆ และเพิ่มต้นไม้เล็กๆ ที่เหมาะกับส่วนที่เหลือซ้ำๆ — การไล่ระดับสีของการสูญเสียที่เกี่ยวข้องกับการคาดการณ์ในปัจจุบัน การมีส่วนร่วมของต้นไม้แต่ละต้นจะปรับขนาดตามอัตราการเรียนรู้ (การหดตัว) ดังนั้นแบบจำลองจึงได้รับการปรับปรุงในขั้นตอนเล็กๆ เนื่องจากข้อผิดพลาดจะเพิ่มมากขึ้นหากคุณปรับแต่งมากเกินไป การทำให้เป็นมาตรฐาน (ขีดจำกัดความลึกของต้นไม้ แถวและคุณสมบัติการสุ่มตัวอย่างย่อย บทลงโทษ L1/L2 บนน้ำหนักลีฟ) จึงเป็นสิ่งสำคัญในการป้องกันไม่ให้วงดนตรีจดจำสัญญาณรบกวน

การเรียนรู้วิธีการทั้งมวลและการเพิ่มการไล่ระดับสี

วิธีการทั้งมวลรวมแบบจำลองง่ายๆ หลายแบบเข้าด้วยกัน ดังนั้นกลุ่มจึงสามารถคาดการณ์ได้ดีกว่าแบบจำลองเดียว การเพิ่มระดับการไล่สีมีประสิทธิภาพมากที่สุด โดยจะสร้างแผนผังทีละรายการ โดยแต่ละแผนผังจะแก้ไขข้อผิดพลาดของลำดับสุดท้าย และครอบงำการเรียนรู้ของเครื่องแบบตารางในโลกแห่งความเป็นจริง Ensemble Methods และ Gradient Boosting อยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Ensemble Methods และ Gradient Boosting เป็นแบบจำลองการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งโดยใช้ Ensemble Methods และ Gradient Boosting จะสร้างโมเดลเชิงแนวคิดที่แข็งแกร่งก่อน จากนั้นจึงจับคู่โมเดลเหล่านั้นกับข้อจำกัดในการผลิตจริง โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในเวลาเดียวกัน ทีมต่างๆ อาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของวิธีการทั้งมวลและการเพิ่มระดับการไล่ระดับสี

ต้นไม้ที่มีการไล่ระดับสียังคงเป็นค่าเริ่มต้นสำหรับข้อมูลแบบตาราง และไม่แสดงสัญญาณของการถูกถอดออกจากตำแหน่งดังกล่าว แม้ว่าการเรียนรู้เชิงลึกจะก้าวหน้าไปในที่อื่นก็ตาม คาดหวังความเร็วและการเร่งความเร็วของ GPU ที่เพิ่มขึ้นอย่างต่อเนื่อง การจัดการข้อมูลที่เป็นหมวดหมู่และข้อมูลที่ขาดหายไปแบบดั้งเดิมที่ดีขึ้น และการผสานรวมกับไปป์ไลน์การเรียนรู้ของเครื่องอัตโนมัติ (AutoML) ที่เข้มงวดยิ่งขึ้น การวิจัยเกี่ยวกับการรวมการเพิ่มประสิทธิภาพด้วยโครงข่ายประสาทเทียม และตัวแปรที่เร็วขึ้นและตีความได้มากขึ้นนั้นกำลังดำเนินการอยู่ สำหรับผู้ปฏิบัติงาน การเพิ่มไลบรารีจะยังคงเป็นตัวเลือกแรกที่เชื่อถือได้และมีความแม่นยำสูงสำหรับปัญหาในรูปแบบสเปรดชีต

การใช้งานจริงในโลกแห่งความเป็นจริง

ธนาคารและผู้ประมวลผลการชำระเงินใช้ XGBoost เพื่อแจ้งธุรกรรมที่ฉ้อโกงจากฟีเจอร์แบบตาราง เช่น จำนวนเงิน สถานที่ และเวลา

เครื่องมือค้นหาและร้านค้าออนไลน์จัดอันดับผลลัพธ์ด้วยโมเดล 'การเรียนรู้เพื่อจัดอันดับ' ที่เสริมด้วยการไล่ระดับสี

บริษัทประกันภัยและให้กู้ยืมคาดการณ์ความเสี่ยงและกำหนดราคาจากข้อมูลลูกค้าที่มีโครงสร้าง

ผู้แข่งขัน Kaggle ชนะการแข่งขันข้อมูลแบบตารางโดยการซ้อนโมเดล LightGBM และ CatBoost เข้าด้วยกัน

รูปแบบการดำเนินงาน

วิธีการทั้งมวลและการเพิ่มการไล่ระดับสีในทางปฏิบัติ

ธนาคารและผู้ประมวลผลการชำระเงินใช้ XGBoost เพื่อแจ้งธุรกรรมที่ฉ้อโกงจากฟีเจอร์แบบตาราง เช่น จำนวนเงิน สถานที่ และเวลา

ธนาคารและผู้ประมวลผลการชำระเงินที่ใช้ XGBoost เพื่อตั้งค่าสถานะธุรกรรมที่ฉ้อโกงจากฟีเจอร์แบบตาราง เช่น จำนวนเงิน สถานที่ และเวลา ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

วิธีการทั้งมวลและการเพิ่มการไล่ระดับสีในทางปฏิบัติ

เครื่องมือค้นหาและร้านค้าออนไลน์จัดอันดับผลลัพธ์ด้วยโมเดล 'การเรียนรู้เพื่อจัดอันดับ' ที่เสริมด้วยการไล่ระดับสี

เครื่องมือค้นหาและร้านค้าออนไลน์จัดอันดับผลลัพธ์ด้วยโมเดล 'การเรียนรู้เพื่อจัดอันดับ' ที่เสริมการไล่ระดับสี ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

วิธีการทั้งมวลและการเพิ่มการไล่ระดับสีในทางปฏิบัติ

บริษัทประกันภัยและให้กู้ยืมคาดการณ์ความเสี่ยงและกำหนดราคาจากข้อมูลลูกค้าที่มีโครงสร้าง

บริษัทประกันภัยและบริษัทให้กู้ยืมคาดการณ์ความเสี่ยงและการกำหนดราคาจากข้อมูลลูกค้าที่มีโครงสร้าง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อกำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

วิธีการทั้งมวลและการเพิ่มการไล่ระดับสีในทางปฏิบัติ

ผู้แข่งขัน Kaggle ชนะการแข่งขันข้อมูลแบบตารางโดยการซ้อนโมเดล LightGBM และ CatBoost เข้าด้วยกัน

คู่แข่ง Kaggle ที่ชนะการแข่งขันข้อมูลแบบตารางโดยการซ้อนโมเดล LightGBM และ CatBoost เข้าด้วยกัน โดยปกติแล้วทีมจะได้ผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

แต่ละทีมอาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ

!

เกณฑ์มาตรฐานอาจดูแข็งแกร่งในขณะที่ประสิทธิภาพในโลกแห่งความเป็นจริงไม่เท่ากัน

!

การเพิกเฉยต่อคุณภาพข้อมูลและแผนการประเมินมักสร้างผลลัพธ์ที่เปราะบาง

แผนงานการดำเนินงาน

1

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

เอกสารที่ซึ่งวิธีการทั้งมวลและการเร่งการไล่ระดับสีช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า

เอกสารที่ซึ่งวิธีการทั้งมวลและการเร่งการไล่ระดับสีช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป