คู่มือทางเทคนิค
การสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล
การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้
ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min
บนหน้านี้อ่าน 2 นาที
ภาพรวม
It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.
เจาะลึก
ในการตรวจจับวัตถุ รูปภาพอาจมีวัตถุจริงเพียงไม่กี่ชิ้น แต่มีตำแหน่งที่เป็นไปได้นับหมื่นตำแหน่ง ซึ่งเกือบทั้งหมดเป็นพื้นหลังที่เรียบง่าย ด้วยเอนโทรปีข้ามแบบมาตรฐาน กระแสเชิงลบง่าย ๆ ที่ท่วมท้นนี้ครอบงำการไล่ระดับสีและกลบผลบวกที่หายากออกไป การสูญเสียโฟกัสซึ่งนำมาใช้ในรายงาน RetinaNet ปี 2017 โดย Lin และเพื่อนร่วมงานที่ Facebook AI แก้ไขปัญหานี้ด้วยการคูณ cross-entropy ด้วยปัจจัย (1 - p_t)^gamma เมื่อจำแนกตัวอย่างได้อย่างมั่นใจและถูกต้อง p_t จะเข้าใกล้ 1 ดังนั้นแฟกเตอร์จึงย่อลงจนเหลือศูนย์ และตัวอย่างที่จัดประเภทไว้อย่างดีแทบจะไม่มีประโยชน์เลย ตัวอย่างที่ยากและจัดประเภทผิดจะมีน้ำหนักเกือบเต็ม ด้วยแกมมาประมาณ 2 ทำให้ RetinaNet จับคู่หรือเอาชนะเครื่องตรวจจับแบบสองขั้นตอนที่ช้ากว่า เช่น Faster R-CNN โดยที่ยังคงใช้เครือข่ายแบบ single-pass ที่เรียบง่าย
การใช้งานจริงในโลกแห่งความเป็นจริง
การตรวจจับป้ายถนนเล็กๆ หรือคนเดินถนนที่อยู่ห่างไกลในกรอบการขับขี่อัตโนมัติโดยที่พิกเซลส่วนใหญ่เป็นพื้นหลัง
การค้นหาเนื้องอกหรือรอยโรคที่หายากในการสแกนทางการแพทย์ซึ่งมีเนื้อเยื่อที่มีสุขภาพดีครอบงำอยู่
การตรวจจับข้อบกพร่องในสายการผลิตซึ่งชิ้นส่วนที่ได้รับการตรวจสอบส่วนใหญ่เป็นเรื่องปกติ
การระบุเรือขนาดเล็กหรือยานพาหนะในภาพถ่ายดาวเทียมและภาพถ่ายทางอากาศขนาดใหญ่
อนาคตของการสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล
การสูญเสียโฟกัสกลายเป็นองค์ประกอบเริ่มต้นที่เหนือกว่า RetinaNet โดยปรากฏในเครื่องตรวจจับเช่น FCOS ในการแบ่งส่วน และในการจำแนกประเภทหางยาว ตัวแปรต่างๆ เช่น การสูญเสียโฟกัสที่มีคุณภาพ การสูญเสียโฟกัสแบบกระจาย และการสูญเสียโฟกัสแบบแปรผัน ได้รับการปรับแต่งสำหรับเครื่องตรวจจับแบบไม่มีจุดยึดและแบบใช้หม้อแปลงสมัยใหม่ เมื่อการตรวจจับเปลี่ยนไปสู่โมเดลการคาดการณ์แบบเซ็ต เช่น DETR ที่ใช้การจับคู่แบบสองฝ่าย การปรับน้ำหนักแบบโฟกัสยังคงเป็นเครื่องมือที่ใช้งานได้จริงไม่ว่าความถี่ของคลาสจะบิดเบือนอย่างรุนแรง
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
- การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
ระวัง
- การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
- ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
- ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
ขั้นตอนต่อไป
- กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
- เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
- การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
- เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
Take the Focal Loss for Imbalanced Detection quiz
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
What is Focal Loss for Imbalanced Detection?
การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้ ช่วยแก้ไขความไม่สมดุลระหว่างพื้นหลังกับวัตถุที่รุนแรงซึ่งทำให้เครื่องตรวจจับวัตถุในขั้นตอนเดียวพิการ
ปัญหาหลักประการใดในการตรวจจับวัตถุในขั้นตอนเดียวคือการสูญเสียโฟกัสที่ออกแบบมาเพื่อแก้ไข
ในการตรวจจับที่หนาแน่น ตัวอย่างพื้นหลังอย่างง่ายจะมีจำนวนมากกว่าวัตถุจริงอย่างมาก และมีอิทธิพลเหนือการไล่ระดับเอนโทรปีข้ามมาตรฐาน การสูญเสียโฟกัสเกิดขึ้นใหม่ซึ่งหาได้ยาก ตัวอย่างที่ยากจะนับได้มากกว่านี้
อะไรคือปัจจัยมอดูเลตที่การสูญเสียโฟกัสคูณกับเอนโทรปีข้าม?
การสูญเสียโฟกัสคือ -(1 - p_t)^gamma * log(p_t) เทอมแกมมา (1 - p_t)^จะย่อลงจนเหลือศูนย์เพื่อการคาดคะเนที่ถูกต้องอย่างมั่นใจ
จะเกิดอะไรขึ้นกับการสูญเสียโฟกัสเมื่อตั้งค่าแกมม่าพารามิเตอร์การโฟกัสเป็น 0
ที่ gamma = 0 ตัวประกอบ (1 - p_t)^0 เท่ากับ 1 ดังนั้นการสูญเสียโฟกัสจึงลดลงเป็น cross-entropy มาตรฐานทุกประการ
การเพิ่มแกมมามีประโยชน์อย่างไรกับตัวอย่างที่ง่ายและแยกประเภทได้ดี
แกมมาที่สูงขึ้นจะทำให้เทอม (1 - p_t)^แกมม่าหดตัวเร็วขึ้นสำหรับ p_t ที่สูง ดังนั้น ตัวอย่างง่ายๆ มีส่วนทำให้การสูญเสียและการไล่ระดับสีน้อยลงด้วยซ้ำ
สถาปัตยกรรมตัวตรวจจับใดทำให้เกิดการสูญเสียโฟกัส
การสูญเสียโฟกัสถูกนำมาใช้ในรายงาน RetinaNet ปี 2017 ซึ่งช่วยให้เครื่องตรวจจับแบบขั้นตอนเดียวสามารถแข่งขันกับวิธีการแบบสองขั้นตอนที่แม่นยำได้
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้