VolgendeVolgende gids
Reflexie en zelfcorrigerende middelen
Toepassingen
Technische GIDS
Door zelfreflectie kan een AI-agent zijn eigen resultaten en acties halverwege de taak bekritiseren en vervolgens herzien op basis van die kritiek.
Luister naar deze gidsAI-verteld · ~2 min
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
In een agentlus onderneemt een taalmodel acties (tools aanroepen, code schrijven, antwoorden), observeert de resultaten en besluit wat er vervolgens moet gebeuren. Zelfreflectie voegt een bewuste stap toe waarbij het model zijn recente werk evalueert voordat het verder gaat. Kaders als Reflexion (2023) maken dit concreet: na een mislukte poging schrijft de agent een korte verbale kritiek ('Ik vergat de lege lijst te behandelen') en slaat deze op in het geheugen, zodat de volgende poging afhankelijk is van die les. Self-Refine gebruikt hetzelfde model om feedback te genereren en vervolgens het antwoord iteratief te herschrijven. De reflectie kan voortkomen uit het vergelijken van de output met een doel, het controleren van foutmeldingen of het uitvoeren van tests. De winst is een hogere betrouwbaarheid bij taken die uit meerdere stappen bestaan, zoals coderen, webnavigatie en wiskunde, waarbij een enkele doorgang vaak mislukt, maar een lus van kritiek en opnieuw proberen slaagt.
Een codeeragent voert een falende eenheidstest uit, leest de traceback, schrijft een reflectie waarin de één-fout-fout wordt vermeld, en herschrijft de functie bij de volgende lus-iteratie.
Een websurfer die op de verkeerde link heeft geklikt, reflecteert op de pagina waarop hij terechtkwam, herkent de discrepantie met zijn doel en keert terug om een andere link te proberen.
Een onderzoeksassistent stelt een antwoord op, bekritiseert het op niet-ondersteunde beweringen en herziet het om citaten toe te voegen of onzekere uitspraken af te dekken voordat het het terugstuurt.
Een wiskunde-oplosser vergelijkt zijn uiteindelijke antwoord met de beperkingen van het probleem, merkt dat de eenheden niet overeenkomen en herwerkt de berekening in plaats van het foutieve resultaat in te dienen.
Verwacht dat reflectie een ingebouwde primitieve agent wordt in plaats van een aansporingstruc, met modellen die zijn getraind om te weten wanneer reflectie de extra tokens waard is en wanneer het alleen maar rekenkracht kost. Verificatiemodellen en uitvoeringsfeedback zullen steeds meer zelfkritiek onderbouwen, zodat agenten niet langer hallucineren dat verkeerde antwoorden juist zijn. Onderzoek richt zich ook op de faalmodus waarin modellen met vertrouwen slecht werk bevestigen en streven naar gekalibreerde, op bewijs gebaseerde reflectie en aangeleerde stopcriteria voor de cirkel.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Door zelfreflectie kan een AI-agent zijn eigen resultaten en acties halverwege de taak bekritiseren en vervolgens herzien op basis van die kritiek. Het verandert een eenmalige gokker in een systeem dat zijn eigen fouten opmerkt en herstelt.
Zelfreflectie voegt een evaluatiestap toe waarin de agent zijn recente acties of resultaten bekritiseert en die kritiek gebruikt om zijn volgende zet te begeleiden.
Reflexion bewaart verbale zelfkritiek in een episodische geheugenbuffer en plaatst ze in context bij latere tests, zodat het leren in de context plaatsvindt en niet via gewichtsupdates.
Geaarde externe signalen zoals falende tests of runtime-fouten geven concrete, betrouwbare feedback, terwijl puur zelf gegenereerde kritiek verkeerd kan zijn.
Zonder gegronde feedback beoordelen modellen soms gebrekkig werk en concluderen ze ten onrechte dat het prima is, dus externe verificatie is belangrijk.
Self-Refine zorgt ervoor dat één enkel model feedback geeft op het concept en vervolgens de uitvoer iteratief herziet met behulp van die feedback.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Reflexie en zelfcorrigerende middelen
Toepassingen