คู่มือทางเทคนิค

การเพิ่มเวลาทดสอบ

การเพิ่มเวลาทดสอบ (TTA) รันโมเดลที่ผ่านการฝึกอบรมกับอินพุตเดียวกันที่ได้รับการแก้ไขหลายเวอร์ชัน และหาค่าเฉลี่ยของการคาดการณ์

อ่าน 2 นาทีอัปเดตล่าสุด

ภาพรวม

It is a simple, training-free trick that often squeezes out a few extra points of accuracy and makes predictions more robust.

เจาะลึก

การเพิ่มเวลาทดสอบใช้อินพุตเดียว สร้างสำเนาที่แปลงแล้วหลายชุด (พลิก การครอบตัด การหมุน การเปลี่ยนสี หรือเวอร์ชันที่ปรับขนาด) รันแต่ละอันผ่านโมเดลคงที่เดียวกัน จากนั้นรวมเอาท์พุตเข้าด้วยกัน โดยปกติแล้วจะเป็นการหาค่าเฉลี่ยของความน่าจะเป็นหรือบันทึก สัญชาตญาณ: การเพิ่มแต่ละครั้งจะทำให้โมเดลมีมุมมองที่แตกต่างกันเล็กน้อย และข้อผิดพลาดในแต่ละมุมมองมีแนวโน้มที่จะยกเลิกเมื่อรวมเข้าด้วยกัน เช่น ชุดเล็กๆ ที่สร้างขึ้นจากเครือข่ายเดียว สิ่งสำคัญที่สุดคือ TTA ไม่จำเป็นต้องฝึกอบรมซ้ำและไม่มีป้ายกำกับเพิ่มเติม มีค่าใช้จ่ายในการประมวลผลมากขึ้นในการอนุมานเท่านั้น เนื่องจากโมเดลรัน N ครั้งต่อตัวอย่าง เป็นที่นิยมมากที่สุดในการมองเห็นด้วยคอมพิวเตอร์ (โดยเฉพาะการแข่งขัน Kaggle และการสร้างภาพทางการแพทย์) แต่ยังปรากฏในเสียงและข้อความด้วย การเสริมควรคงฉลากไว้ — การกลับภาพเอ็กซ์เรย์หน้าอกเป็นเรื่องปกติ แต่การกลับเลข '6' ให้เป็น '9' กลับไม่ได้ผล

ข้อมูลเชิงลึกทางเทคนิค

หากข้อผิดพลาดในการทำนายของโมเดลในมุมมองเสริมนั้นไม่มีความสัมพันธ์กันบางส่วน การหาค่าเฉลี่ยจะลดความแปรปรวนเหมือนกับวงดนตรี แต่ใช้ชุดตุ้มน้ำหนักชุดเดียว สำหรับการจำแนกประเภท คุณมักจะเฉลี่ยความน่าจะเป็นซอฟต์แม็กซ์ (หรือบันทึก) เหนือมุมมอง สำหรับการแบ่งส่วน คุณต้องกลับการแปลงทางเรขาคณิตแต่ละครั้งก่อนที่จะรวมเข้าด้วยกัน เพื่อให้แผนที่พิกเซลปรับแนวใหม่ การเลือกส่วนเสริมแบบรักษาป้ายกำกับมีความสำคัญ: การแปลงที่เปลี่ยนคลาสที่แท้จริงจะทำให้เกิดอคติมากกว่าการตัดเสียงรบกวน

ผลกระทบเชิงกลยุทธ์

ต้นทุนและงบประมาณ

การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี

การตัดสินใจที่ชัดเจนยิ่งขึ้น

การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด

การควบคุมคุณภาพ

ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

อนาคตของการเพิ่มเวลาทดสอบ

การวิจัยกำลังมุ่งสู่ TTA ที่เรียนรู้และปรับตัวได้ โดยนโยบายเล็กๆ จะเลือกว่าส่วนเสริมใดที่ช่วยป้อนข้อมูลเฉพาะแต่ละรายการ แทนที่จะใช้ชุดคงที่ การค้นหานโยบาย TTA แบบ 'โลภ' และเชิงอนุพันธ์ บวกกับค่าเฉลี่ยถ่วงน้ำหนักที่ไม่แน่นอนซึ่งเชื่อถือการดูที่มั่นใจมากกว่า ถือเป็นประเด็นสำคัญ คาดว่า TTA จะผสมผสานกับการฝึกอบรมในช่วงเวลาทดสอบและการปรับตัวที่มีการดูแลตนเอง โดยปล่อยให้โมเดลที่ใช้งานสามารถปรับตามกะการจัดจำหน่ายได้ทันที ขณะเดียวกันก็รักษาคุณสมบัติที่น่าดึงดูดโดยไม่ต้องมีการฝึกอบรมซ้ำ

การใช้งานจริงในโลกแห่งความเป็นจริง

การคาดการณ์โดยเฉลี่ยในการพลิกแนวนอนและการครอบตัดหลายรายการของรูปภาพเพื่อเพิ่มความแม่นยำในการจัดหมวดหมู่ ImageNet ที่การอนุมาน

การกลับด้านการหมุน/การพลิกและการเฉลี่ยมาสก์ในการแบ่งส่วนภาพทางการแพทย์ (เช่น ขอบเขตของเนื้องอกหรืออวัยวะ) เพื่อการวาดภาพที่ชัดเจนยิ่งขึ้น

ผู้แข่งขัน Kaggle ใช้ TTA แบบครอบตัดสิบหรือหลายขนาดเพื่อรับส่วนแบ่งเปอร์เซ็นต์บนกระดานผู้นำโดยไม่ต้องฝึกอบรมซ้ำ

การเรียกใช้ตัวแยกประเภทเสียงพูดหรือเสียงบนคลิปที่มีการเลื่อนเวลาเล็กน้อยหรือรบกวนระดับเสียง และการรวมเอาต์พุตเพื่อให้ป้ายกำกับมีความเสถียรมากขึ้น

ความเสี่ยงและรั้ว

การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้

ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป

ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

แผนงานการดำเนินงาน

1

กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน

2

เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง

3

การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้

4

เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Test-Time Augmentation quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

เริ่มแบบทดสอบ

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

คำแนะนำต่อไป

การฝึกอบรมเวลาทดสอบ

คำถามที่พบบ่อย

What is Test-Time Augmentation?

การเพิ่มเวลาทดสอบ (TTA) รันโมเดลที่ผ่านการฝึกอบรมกับอินพุตเดียวกันที่ได้รับการแก้ไขหลายเวอร์ชัน และหาค่าเฉลี่ยของการคาดการณ์ เป็นเคล็ดลับง่ายๆ โดยไม่ต้องฝึกฝน ซึ่งมักจะบีบจุดความแม่นยำพิเศษบางอย่างออกไป และทำให้การคาดการณ์มีประสิทธิภาพมากขึ้น

แนวคิดหลักเบื้องหลังการเพิ่มเวลาทดสอบคืออะไร

TTA ป้อนอินพุตเวอร์ชันเสริมหลายเวอร์ชันผ่านโมเดลที่ผ่านการฝึกอบรมเดียวกัน และรวบรวมการคาดการณ์ โดยไม่ต้องมีการฝึกอบรมซ้ำ

เหตุใด TTA จึงปรับปรุงความแม่นยำบ่อยครั้ง

การหาค่าเฉลี่ยจากหลายๆ มุมมองจะทำงานเหมือนกับการรวมเครือข่ายหนึ่ง ช่วยลดความแปรปรวนเมื่อข้อผิดพลาดต่อการดูไม่มีความสัมพันธ์กันในบางส่วน

ต้นทุนหลักในการใช้ TTA คืออะไร?

เนื่องจากแต่ละอินพุตถูกส่งผ่านเครือข่าย N ครั้ง การอนุมานจึงมีราคาแพงกว่าประมาณ N เท่า

ตัวเลือกการเสริมใดที่อาจทำร้ายตัวแยกประเภทหลักได้จริง

การเสริมจะต้องรักษาฉลากที่แท้จริงไว้ การพลิกตัวเลขบางตัวจะเปลี่ยนเอกลักษณ์และทำให้เกิดอคติ

ในการแบ่งส่วน ต้องมีขั้นตอนเพิ่มเติมอะไรก่อนที่จะเฉลี่ยผลลัพธ์ TTA

การเสริมทางเรขาคณิตจะย้ายพิกเซล ดังนั้นแต่ละมาสก์เอาท์พุตจะต้องเปลี่ยนกลับไปเป็นเฟรมพิกัดดั้งเดิมก่อนที่จะรวมเข้าด้วยกัน