VolgendeVolgende gids
Z-verlies en trainingsstabiliteit
Technisch
Technische GIDS
Scharnierverlies bestraft een classificatievoorbeeld wanneer de getekende marge onder de één daalt, inclusief correct geclassificeerde punten die te dicht bij de beslissingsgrens liggen.
Luister naar deze gidsAI-verteld · ~3 min
Het is van cruciaal belang om vectormachines te ondersteunen, omdat het minimaliseren van scharnierverlies naast een margestraf een scheidingsgrens bevordert die enkele fouten tolereert en tegelijkertijd een grotere marge nastreeft.
Voor binaire classificatie codeert u labels als y in {-1, +1} en laat f(x) de beslissingsscore van het model zijn. De ondertekende marge is y maal f(x). Scharnierverlies is max(0, 1 - y f(x)). Een correct geclassificeerd voorbeeld met een score in de juiste richting kan nog steeds verlies opleveren als het binnen de eenheidsmarge ligt. Een punt op of voorbij de marge heeft geen scharnierverlies. Een verkeerd geclassificeerd punt heeft een negatief ondertekende marge en krijgt een straf van meer dan één. Dit verlies moedigt een classificator aan om klassen met een marge te scheiden, en niet alleen om correcte trainingslabels toe te kennen. In een lineaire ondersteuningsvectormachine balanceert het doel de margebreedte tegen de som van de scharnierverliezen, waarbij een regularisatieparameter de afweging regelt. Een zwaardere straf voor overtredingen kan de trainingsgegevens beter op elkaar afstemmen; Door meer overtreding toe te staan, kan een bredere, eenvoudigere grens worden begunstigd. Kernelmethoden veranderen de functierepresentatie terwijl de op marges gebaseerde doelstelling behouden blijft. Beschouw een hypothetisch voorbeeld met label +1 en score 0,4. De marge bedraagt 0,4 en het verlies bedraagt 0,6. Als een ander positief voorbeeld een score van 1,3 heeft, is het verlies nul. Als een geval met een negatief label een score van 0,5 heeft, is de ondertekende marge -0,5 en is het verlies gelijk aan 1,5. Deze waarden laten zien waarom de correctheid van de classificatie alleen niet het scharnierverlies bepaalt. Logistiek verlies is ook convex en margegevoelig, maar in tegenstelling tot scharnierverlies blijft het een positieve straf toekennen aan correct geclassificeerde voorbeelden, zelfs tot ver buiten de marge. De probabilistische vorm ervan sluit op natuurlijke wijze aan bij de logwaarschijnlijkheid. Scharnierverlies is op zichzelf geen gekalibreerde waarschijnlijkheidsschatting. SVM's kunnen worden gecombineerd met waarschijnlijkheidskalibratie wanneer waarschijnlijkheden nodig zijn, met behulp van een geschikt validatieproces. Schaal functies, stem de regularisatie af op trainingsplooien en evalueer de foutkosten op basis van representatieve gegevens. Scharnierverlies definieert niet voor elke toepassing een ideale beslissingsdrempel; Voor de zakelijke gevolgen kan een afzonderlijke drempel- of klassewegingsbeslissing nodig zijn.
Een hypothetische binaire classificator geeft een correct gelabeld geval een ondertekende marge van 0,4. Het scharnierverlies is max(0, 1 - 0,4) = 0,6, omdat het punt zich aan de juiste kant bevindt, maar binnen de marge.
Een verkeerd gelabeld exemplaar heeft een marge van -0,5. Het scharnierverlies is max(0, 1 - (-0,5)) = 1,5, wat zowel de verkeerde kant als de afstand tot de margevereiste weerspiegelt.
Een support-vector classifier vergelijkt scharnierverlies met logistiek verlies tijdens training. De SVM-doelstelling legt de nadruk op margeschendingen; logistiek verlies blijft op alle voorbeelden reageren en levert alleen een probabilistische interpretatie op met aanvullende modellerings- of kalibratieoverwegingen.
Een ingenieur schaalt de invoerfuncties voordat hij de regularisatieparameter van een SVM afstemt. Functieschalen beïnvloeden afstanden en marges, dus afstemming zonder consistente voorbewerking kan de vergelijking verwarren.
Op marges gebaseerde classificatie blijft nuttig wanneer een duidelijke grens en controle over margeschendingen van belang zijn. Praktische workflows moeten aangeven of de implementatie gebruik maakt van een scharnier of een vierkant scharnier, hoe de kenmerken zijn geschaald en hoe de regularisatiewaarde is geselecteerd. Als downstreamgebruikers risico-inschattingen nodig hebben, moeten teams de gekalibreerde kansen afzonderlijk beoordelen in plaats van beslissingsscores rechtstreeks in percentages om te zetten. Met monitoring kunnen margeverdelingen en klassespecifieke foutenpercentages in de loop van de tijd worden vergeleken. Betere verklarende interfaces kunnen laten zien welke waarnemingen zich in de buurt van de grens bevinden, waar onzekerheid vaak het grootste gevolg heeft, terwijl de score gescheiden blijft van een waarschijnlijkheid.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Scharnierverlies bestraft een classificatievoorbeeld wanneer de getekende marge onder de één daalt, inclusief correct geclassificeerde punten die te dicht bij de beslissingsgrens liggen. Het is van cruciaal belang om vectormachines te ondersteunen, omdat het minimaliseren van scharnierverlies naast een margestraf een scheidingsgrens bevordert die enkele fouten tolereert en tegelijkertijd een grotere marge nastreeft.
Wanneer de ondertekende marge ten minste één is, is 1 minus niet-positief en is het maximum met nul nul.
De ondertekende marge is label maal score; negatief één keer 0,5 is gelijk aan -0,5.
Scharnierverlies bestraft punten met een ondertekende marge van minder dan één, zelfs als de voorspelde kant correct is.
Het logistieke verlies neemt af, maar blijft positief voor eindige scores, terwijl het scharnierverlies nul is boven de marge.
De SVM-doelstelling balanceert op een op normen gebaseerde margetermijn en bestrafte schendingen van scharnierverlies.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Z-verlies en trainingsstabiliteit
Technisch