Basisprincipes GIDS

Drop-out en stochastische regularisatie

Drop-out is een regularisatietruc die tijdens elke trainingsstap willekeurig een fractie van de neuronen uitschakelt, waardoor het netwerk wordt gedwongen redundante, robuuste representaties op te bouwen.

Luister naar deze gidsAI-verteld · ~2 min

Op deze pagina2 min lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van uitval en stochastische regularisatie
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het werd een van de meest invloedrijke technieken om overfitting in deep learning te bestrijden.

Diepe duik

Drop-out, geïntroduceerd door de groep van Hinton rond 2012, pakt een belangrijke zwakte van grote netwerken aan: neuronen kunnen zich gezamenlijk aanpassen en leren elkaars fouten te herstellen op een manier die alleen op de trainingsgegevens werkt. Bij elke voorwaartse beweging tijdens de training stelt drop-out de output van elk neuron willekeurig in op nul met een bepaalde waarschijnlijkheid p (vaak 0,5 in dichte lagen). Omdat elk neuron kan verdwijnen, kan het netwerk niet steunen op fragiele partnerschappen en moet het nuttige informatie over vele eenheden verspreiden. Dit werkt als het trainen van een enorm ensemble van uitgedunde netwerken die gewichten delen. Tijdens de test wordt de uitval uitgeschakeld en wordt het volledige netwerk gebruikt, waarbij de activeringen worden geschaald zodat de verwachte output overeenkomt met de training. Het resultaat is doorgaans een betere generalisatie ten koste van een iets langere training.

Implementatie in de echte wereld

Een drop-outlaag toevoegen met p rond 0,5 tussen dichte lagen van een afbeeldings- of tekstclassificator in PyTorch of Keras

Transformer-modellen passen uitval toe op aandachtsgewichten en feed-forward-activaties tijdens de voortraining

Voortijdige uitval in Monte Carlo, waarbij de uitval blijft hangen bij gevolgtrekkingen om onzekerheidsschattingen te maken voor medische of veiligheidskritische voorspellingen

Stochastische diepte (DropPath) waarbij restblokken willekeurig worden overgeslagen om zeer diepe netwerken zoals ResNets en vision-transformatoren te regulariseren

De toekomst van uitval en stochastische regularisatie

In convolutionele visienetwerken heeft batchnormalisatie de standaarduitval grotendeels verdrongen, maar varianten gedijen elders: transformatoren passen uitval toe op aandachts- en feed-forward-lagen, en DropPath (stochastische diepte) laat hele restblokken vallen. Monte Carlo-uitval, die de uitval actief houdt bij gevolgtrekkingen, wordt gebruikt om de modelonzekerheid te schatten. Verwacht dat stochastische regularisatie een flexibele toolkit blijft, aangepast per architectuur in plaats van een enkel vast recept.

Het in de praktijk brengen

Waarom het ertoe doet

  • Duidelijkere beslissingen. Het helpt u duidelijke technische claims te scheiden van marketingtaal.
  • Kosten en budget. U kunt betere implementatievragen stellen voordat u geld of tijd uitgeeft.
  • Team en workflow. Teams met gedeeld begrip nemen betere product-, beleids- en leerbeslissingen.

Pas op voor

  • Verschillende teams kunnen dezelfde term verschillend gebruiken, dus definieer de reikwijdte vroeg.
  • Benchmarks kunnen er sterk uitzien, terwijl de prestaties in de echte wereld ongelijkmatig zijn.
  • Het negeren van datakwaliteit en evaluatieplannen zorgt vaak voor fragiele resultaten.

Volgende stappen

  1. Begin met een definitie in duidelijke taal van het gewenste resultaat.
  2. Kies één successtatistiek en één faalconditie voordat u gaat testen.
  3. Voer een kleine pilot uit met representatieve gegevens, niet met een gepolijste demoset.
  4. Documenteer waar drop-out en stochastische regularisatie helpen en waar eenvoudigere methoden beter zijn.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Dropout and Stochastic Regularization quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is drop-out en stochastische regularisatie?

Drop-out is een regularisatietruc die tijdens elke trainingsstap willekeurig een fractie van de neuronen uitschakelt, waardoor het netwerk wordt gedwongen redundante, robuuste representaties op te bouwen. Het werd een van de meest invloedrijke technieken om overfitting in deep learning te bestrijden.

Wat doet uitval tijdens de training?

Bij drop-out wordt elk neuron tijdens de training willekeurig op nul gezet met waarschijnlijkheid p, zodat bij elke stap een ander uitgedund subnetwerk wordt gebruikt.

Waarom verbetert uitval de generalisatie?

Door willekeurig eenheden te verwijderen, voorkomt uitval dat neuronen fragiele partnerschappen vormen die alleen werken aan trainingsgegevens, waardoor de robuustheid wordt verbeterd.

Wat gebeurt er met uitval tijdens de test (inferentie)?

Bij gevolgtrekking draait het volledige netwerk met uitgeschakelde uitval, en worden activeringen geschaald zodat de verwachte output overeenkomt met de trainingsdistributie.

Wat betekent een uitvalpercentage van p = 0,5 in een laag ongeveer tijdens de training?

Met p = 0,5 heeft elk neuron een kans van 50 procent om op nul te worden gezet, dus gemiddeld valt ongeveer de helft weg per voorwaartse passage.

Wat wordt uitval vaak als benaderend omschreven?

Door elke stap een ander subnetwerk te bemonsteren, benadert u het gemiddelde over een exponentieel aantal netwerken met gedeeld gewicht, een vorm van goedkope samenvoeging.