คู่มือทางเทคนิค

การเพิ่มเวลาทดสอบ

การเพิ่มเวลาทดสอบ (TTA) รันโมเดลที่ผ่านการฝึกอบรมกับอินพุตเดียวกันที่ได้รับการแก้ไขหลายเวอร์ชัน และหาค่าเฉลี่ยของการคาดการณ์

ภาพรวม

การเพิ่มเวลาทดสอบ (TTA) รันโมเดลที่ผ่านการฝึกอบรมกับอินพุตเดียวกันที่ได้รับการแก้ไขหลายเวอร์ชัน และหาค่าเฉลี่ยของการคาดการณ์ เป็นเคล็ดลับง่ายๆ โดยไม่ต้องฝึกฝน ซึ่งมักจะบีบจุดความแม่นยำพิเศษบางอย่างออกไป และทำให้การคาดการณ์มีประสิทธิภาพมากขึ้น

การเพิ่มเวลาทดสอบเป็นองค์ประกอบทางเทคนิคที่ส่งผลต่อคุณภาพของโมเดล ต้นทุนโครงสร้างพื้นฐาน เวลาแฝง และความน่าเชื่อถือในวงกว้าง

เจาะลึก

การเพิ่มเวลาทดสอบใช้อินพุตเดียว สร้างสำเนาที่แปลงแล้วหลายชุด (พลิก การครอบตัด การหมุน การเปลี่ยนสี หรือเวอร์ชันที่ปรับขนาด) รันแต่ละอันผ่านโมเดลคงที่เดียวกัน จากนั้นรวมเอาท์พุตเข้าด้วยกัน โดยปกติแล้วจะเป็นการหาค่าเฉลี่ยของความน่าจะเป็นหรือบันทึก สัญชาตญาณ: การเพิ่มแต่ละครั้งจะทำให้โมเดลมีมุมมองที่แตกต่างกันเล็กน้อย และข้อผิดพลาดในแต่ละมุมมองมีแนวโน้มที่จะยกเลิกเมื่อรวมเข้าด้วยกัน เช่น ชุดเล็กๆ ที่สร้างขึ้นจากเครือข่ายเดียว สิ่งสำคัญที่สุดคือ TTA ไม่จำเป็นต้องฝึกอบรมซ้ำและไม่มีป้ายกำกับเพิ่มเติม มีค่าใช้จ่ายในการประมวลผลมากขึ้นในการอนุมานเท่านั้น เนื่องจากโมเดลรัน N ครั้งต่อตัวอย่าง เป็นที่นิยมมากที่สุดในการมองเห็นด้วยคอมพิวเตอร์ (โดยเฉพาะการแข่งขัน Kaggle และการสร้างภาพทางการแพทย์) แต่ยังปรากฏในเสียงและข้อความด้วย การเสริมควรคงฉลากไว้ — การกลับภาพเอ็กซ์เรย์หน้าอกเป็นเรื่องปกติ แต่การกลับเลข '6' ให้เป็น '9' กลับไม่ได้ผล

ข้อมูลเชิงลึกทางเทคนิค

หากข้อผิดพลาดในการทำนายของโมเดลในมุมมองเสริมนั้นไม่มีความสัมพันธ์กันบางส่วน การหาค่าเฉลี่ยจะลดความแปรปรวนเหมือนกับวงดนตรี แต่ใช้ชุดตุ้มน้ำหนักชุดเดียว สำหรับการจำแนกประเภท คุณมักจะเฉลี่ยความน่าจะเป็นซอฟต์แม็กซ์ (หรือบันทึก) เหนือมุมมอง สำหรับการแบ่งส่วน คุณต้องกลับการแปลงทางเรขาคณิตแต่ละครั้งก่อนที่จะรวมเข้าด้วยกัน เพื่อให้แผนที่พิกเซลปรับแนวใหม่ การเลือกส่วนเสริมแบบรักษาป้ายกำกับมีความสำคัญ: การแปลงที่เปลี่ยนคลาสที่แท้จริงจะทำให้เกิดอคติมากกว่าการตัดเสียงรบกวน

การเรียนรู้การเพิ่มเวลาทดสอบอย่างเชี่ยวชาญ

การเพิ่มเวลาทดสอบ (TTA) รันโมเดลที่ผ่านการฝึกอบรมกับอินพุตเดียวกันที่ได้รับการแก้ไขหลายเวอร์ชัน และหาค่าเฉลี่ยของการคาดการณ์ เป็นเคล็ดลับง่ายๆ โดยไม่ต้องฝึกฝน ซึ่งมักจะบีบจุดความแม่นยำพิเศษบางอย่างออกไป และทำให้การคาดการณ์มีประสิทธิภาพมากขึ้น การเพิ่มเวลาทดสอบเป็นองค์ประกอบทางเทคนิคที่ส่งผลต่อคุณภาพของโมเดล ต้นทุนโครงสร้างพื้นฐาน เวลาแฝง และความน่าเชื่อถือในวงกว้าง เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Test-Time Augmentation เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังคงต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ Test-Time Augmentation จะปรับสถาปัตยกรรม ข้อมูล และตัวเลือกโครงสร้างพื้นฐานให้เหมาะสมโดยเทียบกับความน่าเชื่อถือและต้นทุน โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี ในเวลาเดียวกัน การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี

การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด

การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของการเพิ่มเวลาทดสอบ

การวิจัยกำลังมุ่งสู่ TTA ที่เรียนรู้และปรับตัวได้ โดยนโยบายเล็กๆ จะเลือกว่าส่วนเสริมใดที่ช่วยป้อนข้อมูลเฉพาะแต่ละรายการ แทนที่จะใช้ชุดคงที่ การค้นหานโยบาย TTA แบบ 'โลภ' และเชิงอนุพันธ์ บวกกับค่าเฉลี่ยถ่วงน้ำหนักที่ไม่แน่นอนซึ่งเชื่อถือการดูที่มั่นใจมากกว่า ถือเป็นประเด็นสำคัญ คาดว่า TTA จะผสมผสานกับการฝึกอบรมในช่วงเวลาทดสอบและการปรับตัวที่มีการดูแลตนเอง โดยปล่อยให้โมเดลที่ใช้งานสามารถปรับตามกะการจัดจำหน่ายได้ทันที ขณะเดียวกันก็รักษาคุณสมบัติที่น่าดึงดูดโดยไม่ต้องมีการฝึกอบรมซ้ำ

การใช้งานจริงในโลกแห่งความเป็นจริง

การคาดการณ์โดยเฉลี่ยในการพลิกแนวนอนและการครอบตัดหลายรายการของรูปภาพเพื่อเพิ่มความแม่นยำในการจัดหมวดหมู่ ImageNet ที่การอนุมาน

การกลับด้านการหมุน/การพลิกและการเฉลี่ยมาสก์ในการแบ่งส่วนภาพทางการแพทย์ (เช่น ขอบเขตของเนื้องอกหรืออวัยวะ) เพื่อการวาดภาพที่ชัดเจนยิ่งขึ้น

ผู้แข่งขัน Kaggle ใช้ TTA แบบครอบตัดสิบหรือหลายขนาดเพื่อรับส่วนแบ่งเปอร์เซ็นต์บนกระดานผู้นำโดยไม่ต้องฝึกอบรมซ้ำ

การเรียกใช้ตัวแยกประเภทเสียงพูดหรือเสียงบนคลิปที่มีการเลื่อนเวลาเล็กน้อยหรือรบกวนระดับเสียง และการรวมเอาต์พุตเพื่อให้ป้ายกำกับมีความเสถียรมากขึ้น

รูปแบบการดำเนินงาน

การเพิ่มเวลาทดสอบในทางปฏิบัติ

การคาดการณ์โดยเฉลี่ยในการพลิกแนวนอนและการครอบตัดหลายรายการของรูปภาพเพื่อเพิ่มความแม่นยำในการจัดหมวดหมู่ ImageNet ที่การอนุมาน

การคาดการณ์โดยเฉลี่ยในการพลิกแนวนอนและการครอบตัดรูปภาพหลายรายการเพื่อเพิ่มความแม่นยำในการจัดหมวดหมู่ ImageNet ในการอนุมาน ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การเพิ่มเวลาทดสอบในทางปฏิบัติ

การกลับด้านการหมุน/การพลิกและการเฉลี่ยมาสก์ในการแบ่งส่วนภาพทางการแพทย์ (เช่น ขอบเขตของเนื้องอกหรืออวัยวะ) เพื่อการวาดภาพที่ชัดเจนยิ่งขึ้น

การกลับด้านการหมุน/การพลิกและการเฉลี่ยมาสก์ในการแบ่งส่วนภาพทางการแพทย์ (เช่น ขอบเขตของเนื้องอกหรืออวัยวะ) เพื่อการแจกแจงที่ชัดเจนยิ่งขึ้น ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การเพิ่มเวลาทดสอบในทางปฏิบัติ

ผู้แข่งขัน Kaggle ใช้ TTA แบบครอบตัดสิบหรือหลายขนาดเพื่อรับส่วนแบ่งเปอร์เซ็นต์บนกระดานผู้นำโดยไม่ต้องฝึกอบรมซ้ำ

ผู้แข่งขัน Kaggle ที่ใช้ TTA สิบครอบตัดหรือหลายสเกลเพื่อรับส่วนแบ่งของเปอร์เซ็นต์บนลีดเดอร์บอร์ดโดยไม่ต้องฝึกอบรมใหม่ ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การเพิ่มเวลาทดสอบในทางปฏิบัติ

การเรียกใช้ตัวแยกประเภทเสียงพูดหรือเสียงบนคลิปที่มีการเลื่อนเวลาเล็กน้อยหรือรบกวนระดับเสียง และการรวมเอาต์พุตเพื่อให้ป้ายกำกับมีความเสถียรมากขึ้น

การเรียกใช้ตัวแยกประเภทคำพูดและเสียงในคลิปที่มีการเลื่อนเวลาเล็กน้อยหรือรบกวนระดับเสียง และการรวมเอาต์พุตเพื่อให้ได้ป้ายกำกับที่มีเสถียรภาพมากขึ้น ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้

!

ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป

!

ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

แผนงานการดำเนินงาน

1

กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน

กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง

เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้

การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป