คู่มือทางเทคนิค

การสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล

การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้

ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min

บนหน้านี้อ่าน 2 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.

เจาะลึก

ในการตรวจจับวัตถุ รูปภาพอาจมีวัตถุจริงเพียงไม่กี่ชิ้น แต่มีตำแหน่งที่เป็นไปได้นับหมื่นตำแหน่ง ซึ่งเกือบทั้งหมดเป็นพื้นหลังที่เรียบง่าย ด้วยเอนโทรปีข้ามแบบมาตรฐาน กระแสเชิงลบง่าย ๆ ที่ท่วมท้นนี้ครอบงำการไล่ระดับสีและกลบผลบวกที่หายากออกไป การสูญเสียโฟกัสซึ่งนำมาใช้ในรายงาน RetinaNet ปี 2017 โดย Lin และเพื่อนร่วมงานที่ Facebook AI แก้ไขปัญหานี้ด้วยการคูณ cross-entropy ด้วยปัจจัย (1 - p_t)^gamma เมื่อจำแนกตัวอย่างได้อย่างมั่นใจและถูกต้อง p_t จะเข้าใกล้ 1 ดังนั้นแฟกเตอร์จึงย่อลงจนเหลือศูนย์ และตัวอย่างที่จัดประเภทไว้อย่างดีแทบจะไม่มีประโยชน์เลย ตัวอย่างที่ยากและจัดประเภทผิดจะมีน้ำหนักเกือบเต็ม ด้วยแกมมาประมาณ 2 ทำให้ RetinaNet จับคู่หรือเอาชนะเครื่องตรวจจับแบบสองขั้นตอนที่ช้ากว่า เช่น Faster R-CNN โดยที่ยังคงใช้เครือข่ายแบบ single-pass ที่เรียบง่าย

การใช้งานจริงในโลกแห่งความเป็นจริง

การตรวจจับป้ายถนนเล็กๆ หรือคนเดินถนนที่อยู่ห่างไกลในกรอบการขับขี่อัตโนมัติโดยที่พิกเซลส่วนใหญ่เป็นพื้นหลัง

การค้นหาเนื้องอกหรือรอยโรคที่หายากในการสแกนทางการแพทย์ซึ่งมีเนื้อเยื่อที่มีสุขภาพดีครอบงำอยู่

การตรวจจับข้อบกพร่องในสายการผลิตซึ่งชิ้นส่วนที่ได้รับการตรวจสอบส่วนใหญ่เป็นเรื่องปกติ

การระบุเรือขนาดเล็กหรือยานพาหนะในภาพถ่ายดาวเทียมและภาพถ่ายทางอากาศขนาดใหญ่

อนาคตของการสูญเสียโฟกัสสำหรับการตรวจจับที่ไม่สมดุล

การสูญเสียโฟกัสกลายเป็นองค์ประกอบเริ่มต้นที่เหนือกว่า RetinaNet โดยปรากฏในเครื่องตรวจจับเช่น FCOS ในการแบ่งส่วน และในการจำแนกประเภทหางยาว ตัวแปรต่างๆ เช่น การสูญเสียโฟกัสที่มีคุณภาพ การสูญเสียโฟกัสแบบกระจาย และการสูญเสียโฟกัสแบบแปรผัน ได้รับการปรับแต่งสำหรับเครื่องตรวจจับแบบไม่มีจุดยึดและแบบใช้หม้อแปลงสมัยใหม่ เมื่อการตรวจจับเปลี่ยนไปสู่โมเดลการคาดการณ์แบบเซ็ต เช่น DETR ที่ใช้การจับคู่แบบสองฝ่าย การปรับน้ำหนักแบบโฟกัสยังคงเป็นเครื่องมือที่ใช้งานได้จริงไม่ว่าความถี่ของคลาสจะบิดเบือนอย่างรุนแรง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Focal Loss for Imbalanced Detection quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

What is Focal Loss for Imbalanced Detection?

การสูญเสียโฟกัสเป็นฟังก์ชันการสูญเสียที่ได้รับการดัดแปลงซึ่งจะลดน้ำหนักตัวอย่างง่ายๆ เพื่อให้เครื่องตรวจจับสามารถมุ่งเน้นไปที่ตัวอย่างที่แข็งและหายากได้ ช่วยแก้ไขความไม่สมดุลระหว่างพื้นหลังกับวัตถุที่รุนแรงซึ่งทำให้เครื่องตรวจจับวัตถุในขั้นตอนเดียวพิการ

ปัญหาหลักประการใดในการตรวจจับวัตถุในขั้นตอนเดียวคือการสูญเสียโฟกัสที่ออกแบบมาเพื่อแก้ไข

ในการตรวจจับที่หนาแน่น ตัวอย่างพื้นหลังอย่างง่ายจะมีจำนวนมากกว่าวัตถุจริงอย่างมาก และมีอิทธิพลเหนือการไล่ระดับเอนโทรปีข้ามมาตรฐาน การสูญเสียโฟกัสเกิดขึ้นใหม่ซึ่งหาได้ยาก ตัวอย่างที่ยากจะนับได้มากกว่านี้

อะไรคือปัจจัยมอดูเลตที่การสูญเสียโฟกัสคูณกับเอนโทรปีข้าม?

การสูญเสียโฟกัสคือ -(1 - p_t)^gamma * log(p_t) เทอมแกมมา (1 - p_t)^จะย่อลงจนเหลือศูนย์เพื่อการคาดคะเนที่ถูกต้องอย่างมั่นใจ

จะเกิดอะไรขึ้นกับการสูญเสียโฟกัสเมื่อตั้งค่าแกมม่าพารามิเตอร์การโฟกัสเป็น 0

ที่ gamma = 0 ตัวประกอบ (1 - p_t)^0 เท่ากับ 1 ดังนั้นการสูญเสียโฟกัสจึงลดลงเป็น cross-entropy มาตรฐานทุกประการ

การเพิ่มแกมมามีประโยชน์อย่างไรกับตัวอย่างที่ง่ายและแยกประเภทได้ดี

แกมมาที่สูงขึ้นจะทำให้เทอม (1 - p_t)^แกมม่าหดตัวเร็วขึ้นสำหรับ p_t ที่สูง ดังนั้น ตัวอย่างง่ายๆ มีส่วนทำให้การสูญเสียและการไล่ระดับสีน้อยลงด้วยซ้ำ

สถาปัตยกรรมตัวตรวจจับใดทำให้เกิดการสูญเสียโฟกัส

การสูญเสียโฟกัสถูกนำมาใช้ในรายงาน RetinaNet ปี 2017 ซึ่งช่วยให้เครื่องตรวจจับแบบขั้นตอนเดียวสามารถแข่งขันกับวิธีการแบบสองขั้นตอนที่แม่นยำได้

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →