การสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล
การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้
ภาพรวม
It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.
เจาะลึก
ในการตรวจจับวัตถุ รูปภาพอาจมีวัตถุจริงเพียงไม่กี่ชิ้น แต่มีตำแหน่งที่เป็นไปได้นับหมื่นตำแหน่ง ซึ่งเกือบทั้งหมดเป็นพื้นหลังที่เรียบง่าย ด้วยเอนโทรปีข้ามแบบมาตรฐาน กระแสเชิงลบง่าย ๆ ที่ท่วมท้นนี้ครอบงำการไล่ระดับสีและกลบผลบวกที่หายากออกไป การสูญเสียโฟกัสซึ่งนำมาใช้ในรายงาน RetinaNet ปี 2017 โดย Lin และเพื่อนร่วมงานที่ Facebook AI แก้ไขปัญหานี้ด้วยการคูณ cross-entropy ด้วยปัจจัย (1 - p_t)^gamma เมื่อจำแนกตัวอย่างได้อย่างมั่นใจและถูกต้อง p_t จะเข้าใกล้ 1 ดังนั้นแฟกเตอร์จึงย่อลงจนเหลือศูนย์ และตัวอย่างที่จัดประเภทไว้อย่างดีแทบจะไม่มีประโยชน์เลย ตัวอย่างที่ยากและจัดประเภทผิดจะมีน้ำหนักเกือบเต็ม ด้วยแกมมาประมาณ 2 ทำให้ RetinaNet จับคู่หรือเอาชนะเครื่องตรวจจับแบบสองขั้นตอนที่ช้ากว่า เช่น Faster R-CNN โดยที่ยังคงใช้เครือข่ายแบบ single-pass ที่เรียบง่าย
ข้อมูลเชิงลึกทางเทคนิค
แกมมาพารามิเตอร์การโฟกัสจะควบคุมวิธีการระงับตัวอย่างที่ง่ายดายในเชิงรุก โดยที่การสูญเสียโฟกัสแกมมา 0 เท่ากับครอสเอนโทรปีแบบปกติ และแกมมาที่สูงขึ้นจะทำให้โฟกัสคมชัดขึ้นบนเคสที่แข็ง อัลฟ่าน้ำหนักสมดุล (มักจะ 0.25 สำหรับคลาสหายาก) มักจะรวมเข้าด้วยกัน สิ่งสำคัญอย่างยิ่งคือปัจจัยการปรับรูปร่างการไล่ระดับสีใหม่ ไม่ใช่แค่ค่าการสูญเสีย ดังนั้นการขยายพันธุ์กลับจึงเน้นตัวอย่างที่ไม่ชัดเจนโดยธรรมชาติ โดยไม่ต้องขุดฮาร์ดตัวอย่างด้วยตนเองหรือสุ่มตัวอย่างใหม่
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของการสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล
การสูญเสียโฟกัสกลายเป็นองค์ประกอบเริ่มต้นที่เหนือกว่า RetinaNet โดยปรากฏในเครื่องตรวจจับเช่น FCOS ในการแบ่งส่วน และในการจำแนกประเภทหางยาว ตัวแปรต่างๆ เช่น การสูญเสียโฟกัสที่มีคุณภาพ การสูญเสียโฟกัสแบบกระจาย และการสูญเสียโฟกัสแบบแปรผัน ได้รับการปรับแต่งสำหรับเครื่องตรวจจับแบบไม่มีจุดยึดและแบบใช้หม้อแปลงสมัยใหม่ เมื่อการตรวจจับเปลี่ยนไปสู่โมเดลการคาดการณ์แบบเซ็ต เช่น DETR ที่ใช้การจับคู่แบบสองฝ่าย การปรับน้ำหนักแบบโฟกัสยังคงเป็นเครื่องมือที่ใช้งานได้จริงไม่ว่าความถี่ของคลาสจะบิดเบือนอย่างรุนแรง
การใช้งานจริงในโลกแห่งความเป็นจริง
การตรวจจับป้ายถนนเล็กๆ หรือคนเดินถนนที่อยู่ห่างไกลในกรอบการขับขี่อัตโนมัติโดยที่พิกเซลส่วนใหญ่เป็นพื้นหลัง
การค้นหาเนื้องอกหรือรอยโรคที่หายากในการสแกนทางการแพทย์ซึ่งมีเนื้อเยื่อที่มีสุขภาพดีครอบงำอยู่
การตรวจจับข้อบกพร่องในสายการผลิตซึ่งชิ้นส่วนที่ได้รับการตรวจสอบส่วนใหญ่เป็นเรื่องปกติ
การระบุเรือขนาดเล็กหรือยานพาหนะในภาพถ่ายดาวเทียมและภาพถ่ายทางอากาศขนาดใหญ่
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Focal Loss for Imbalanced Detection quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
เครือข่ายสยามและการสูญเสียแฝดสาม
คำถามที่พบบ่อย
What is Focal Loss for Imbalanced Detection?
การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้ ช่วยแก้ไขความไม่สมดุลระหว่างพื้นหลังกับวัตถุที่รุนแรงซึ่งทำให้เครื่องตรวจจับวัตถุในขั้นตอนเดียวพิการ
ปัญหาหลักประการใดในการตรวจจับวัตถุในขั้นตอนเดียวคือการสูญเสียโฟกัสที่ออกแบบมาเพื่อแก้ไข
ในการตรวจจับที่หนาแน่น ตัวอย่างพื้นหลังอย่างง่ายจะมีจำนวนมากกว่าวัตถุจริงอย่างมาก และมีอิทธิพลเหนือการไล่ระดับเอนโทรปีข้ามมาตรฐาน การสูญเสียโฟกัสเกิดขึ้นใหม่ซึ่งหาได้ยาก ตัวอย่างที่ยากจะนับได้มากกว่านี้
อะไรคือปัจจัยมอดูเลตที่การสูญเสียโฟกัสคูณกับเอนโทรปีข้าม?
การสูญเสียโฟกัสคือ -(1 - p_t)^gamma * log(p_t) เทอมแกมมา (1 - p_t)^จะย่อลงจนเหลือศูนย์เพื่อการคาดคะเนที่ถูกต้องอย่างมั่นใจ
จะเกิดอะไรขึ้นกับการสูญเสียโฟกัสเมื่อตั้งค่าแกมม่าพารามิเตอร์การโฟกัสเป็น 0
ที่ gamma = 0 ตัวประกอบ (1 - p_t)^0 เท่ากับ 1 ดังนั้นการสูญเสียโฟกัสจึงลดลงเป็น cross-entropy มาตรฐานทุกประการ
การเพิ่มแกมมามีประโยชน์อย่างไรกับตัวอย่างที่ง่ายและแยกประเภทได้ดี
แกมมาที่สูงขึ้นจะทำให้เทอม (1 - p_t)^แกมม่าหดตัวเร็วขึ้นสำหรับ p_t ที่สูง ดังนั้น ตัวอย่างง่ายๆ มีส่วนทำให้การสูญเสียและการไล่ระดับสีน้อยลงด้วยซ้ำ
สถาปัตยกรรมตัวตรวจจับใดทำให้เกิดการสูญเสียโฟกัส
การสูญเสียโฟกัสถูกนำมาใช้ในรายงาน RetinaNet ปี 2017 ซึ่งช่วยให้เครื่องตรวจจับแบบขั้นตอนเดียวสามารถแข่งขันกับวิธีการแบบสองขั้นตอนที่แม่นยำได้