VolgendeVolgende gids
Siamese netwerken en tripletverlies
Technisch
Technische GIDS
Focal loss is een aangepaste verliesfunctie die eenvoudige voorbeelden naar beneden haalt, zodat een detector zich kan concentreren op de harde, zeldzame voorbeelden.
Luister naar deze gidsAI-verteld · ~2 min
Het loste de extreme onbalans tussen achtergrond en object op die eenfasige objectdetectoren verlamde.
Bij objectdetectie kan een afbeelding slechts een paar echte objecten bevatten, maar tienduizenden kandidaatlocaties, die bijna allemaal een gemakkelijke achtergrond vormen. Bij standaard kruis-entropie domineert deze stroom van makkelijke negatieven de gradiënt en overstemt de zeldzame positieven. Focal loss, geïntroduceerd in het RetinaNet-paper uit 2017 door Lin en collega's van Facebook AI, lost dit op door cross-entropie te vermenigvuldigen met een factor (1 - p_t)^gamma. Wanneer een monster met vertrouwen en correct wordt geclassificeerd, ligt p_t in de buurt van 1, dus de factor krimpt richting nul en het goed geclassificeerde voorbeeld draagt nauwelijks bij. Harde, verkeerd geclassificeerde voorbeelden blijven bijna het volle gewicht behouden. Met een gamma van rond de 2 evenaarde of versloeg RetinaNet langzamere tweetrapsdetectoren zoals Faster R-CNN, terwijl het een eenvoudig single-pass-netwerk bleef.
Het detecteren van kleine verkeersborden of verre voetgangers in autonoom rijdende frames waarbij de meeste pixels op de achtergrond staan.
Het vinden van zeldzame tumoren of laesies in medische scans die gedomineerd worden door gezond weefsel.
Het opsporen van defecten op een productielijn waar de overgrote meerderheid van de geïnspecteerde onderdelen normaal is.
Identificatie van kleine vaartuigen of voertuigen in grote satelliet- en luchtbeelden.
Focaal verlies is een standaardingrediënt geworden, ver buiten RetinaNet, en verschijnt in detectoren zoals FCOS, in segmentatie en in classificatie met lange staart. Varianten zoals kwaliteitsfocaal verlies, distributiefocaal verlies en varifocaal verlies verfijnen het voor moderne ankervrije en op transformatoren gebaseerde detectoren. Naarmate de detectie verschuift naar modellen met set-voorspelling, zoals DETR, die bipartiete matching gebruiken, blijft herweging in focale stijl een praktisch hulpmiddel overal waar klassefrequenties ernstig scheef zijn.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Focal loss is een aangepaste verliesfunctie die eenvoudige voorbeelden naar beneden haalt, zodat een detector zich kan concentreren op de harde, zeldzame voorbeelden. Het loste de extreme onbalans tussen achtergrond en object op die eenfasige objectdetectoren verlamde.
Bij dichte detectie zijn er veel meer eenvoudige achtergrondvoorbeelden dan echte objecten en domineren ze de standaard cross-entropiegradiënt. Herwegingen van focal loss zijn zo zeldzaam dat harde voorbeelden meer tellen.
Focaal verlies is -(1 - p_t)^gamma * log(p_t). De term (1 - p_t)^gamma krimpt richting nul voor betrouwbaar correcte voorspellingen.
Bij gamma = 0 is de factor (1 - p_t)^0 gelijk aan 1, dus focaal verlies reduceert precies tot de standaard kruisentropie.
Een hoger gamma zorgt ervoor dat de term (1 - p_t)^gamma sneller krimpt voor een hoge p_t, dus eenvoudige voorbeelden dragen nog minder bij aan het verlies en de gradiënt.
Focal loss werd geïntroduceerd in het RetinaNet-paper uit 2017, waardoor een eentrapsdetector kon wedijveren met nauwkeurige tweetrapsmethoden.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Siamese netwerken en tripletverlies
Technisch