Basisprincipes GIDS
Benchmarkverontreiniging
Benchmarkbesmetting vindt plaats wanneer vragen of antwoorden van een evaluatiebenchmark in de trainingsgegevens van een model terechtkomen. Een hoge score kan dus een weerspiegeling zijn van memorisatie in plaats van echte bekwaamheid.
Luister naar deze gidsAI-verteld · ~3 min
Op deze pagina4 minuten lezen
Overzicht
Het is van belang omdat cijfers op het scorebord onderzoeksclaims en aankoopbeslissingen aansturen, en vervuilde scores overdrijven hoe een model zal presteren bij problemen die het nog nooit heeft gezien.
Diepe duik
Grote taalmodellen worden getraind op tekst op webschaal, waaronder GitHub-, arXiv-papers, forums en tutorialsites. Populaire benchmarks zijn van nature openbaar, dus hun vragen, antwoorden en discussies erover worden over het internet gekopieerd en in trainingsgegevens opgenomen. Verontreiniging kan direct zijn, waar het exacte testitem verschijnt, of indirect, via parafrases, vertalingen, oplossingsbeschrijvingen of synthetische gegevens die zijn gegenereerd door een ander model dat de benchmark heeft gezien. Het kan ook binnenkomen tijdens het afstemmen als instructiedatasets zijn samengesteld uit benchmarkachtige bronnen. Een nuttig onderscheid is tussen het alleen zien van de vraag en het zien van de vraag met het antwoord. De tweede is schadelijker, omdat het model zich het antwoord kan herinneren in plaats van het uit te werken. Het resultaat is een opgeblazen score die niet wordt overgedragen op nieuwe problemen. Labbewustzijn is niet nieuw. Het GPT-3-paper (2020) voerde een overlapanalyse van 13 gram uit tussen de benchmarks en trainingsgegevens en erkende dat een bug enkele overlappingen achterliet. Als er trainingsgegevens beschikbaar zijn, is het zoeken naar overlappingen de meest directe controle. Als dat niet het geval is, gebruiken onderzoekers indirecte methoden: het model aan het begin van een testitem vragen om te zien of het de rest woordelijk aanvult; methoden voor lidmaatschapsafleiding zoals Min-K% Prob (Shi en collega's, 2023), die kijken naar hoe zelfverzekerd een model de tokens van een tekst voorspelt; het vergelijken van scores op originele items met herschreven of nieuw geschreven equivalenten; en op tijd gebaseerde splitsingen waarin problemen worden vergeleken die vóór en na de trainingsonderbreking zijn ontstaan. Er zijn twee veel voorkomende misvattingen. Ten eerste leidt overlap niet altijd tot veel hogere scores; sommige onderzoeken vinden bescheiden effecten op bepaalde taken. Ten tweede bewijst het vinden van geen exacte overlap niet dat een benchmark schoon is, omdat geparafraseerde of vertaalde kopieën voorbij de stringmatching glippen. Maatregelen zijn onder meer particuliere testsets, canary strings, regelmatig vernieuwde benchmarks zoals LiveBench en LiveCodeBench, decontaminatiefilters en het publiceren van besmettingsanalyses naast de resultaten.
Implementatie in de echte wereld
De problemen van een wiskundebenchmark worden opnieuw gepost op forums met uitgewerkte oplossingen; een webcrawl verzamelt die pagina's, en een model dat erop getraind is, reproduceert later de exacte antwoorden, inclusief een eigenaardigheid in de oorspronkelijke bewoording.
Onderzoekers van Scale AI schreven GSM1k, nieuwe wiskundeproblemen voor de lagere school die qua stijl en moeilijkheidsgraad overeenkwamen met GSM8K, en ontdekten dat sommige modellen merkbaar lager scoorden op de nieuwe set, een teken van overfitting voor de openbare benchmark.
Een coderingsbenchmark die elk probleem dateert, laat zien dat een model veel meer problemen oplost die zijn gepubliceerd vóór de trainingsonderbreking dan daarna, en dat is het patroon dat LiveCodeBench moest blootleggen.
BIG-bench-taken omvatten een unieke kanariereeks, zodat datateams elk document dat dit bevat, uit trainingscorpora kunnen filteren en later kunnen controleren of een model het kan reproduceren.
De toekomst van benchmarkverontreiniging
De evaluatiepraktijk verschuift naar private of gedeeltelijk private testsets, benchmarks die in de loop van de tijd nieuwe items toevoegen, en externe beoordelaars die de testgegevens controleren. Dat schept een echte spanning met openheid, omdat publieke benchmarks makkelijk te reproduceren en te inspecteren zijn. Een grotere transparantie over trainingsgegevens zou contaminatiecontroles veel eenvoudiger maken, maar veel modelontwikkelaars publiceren geen volledige gegevensdetails. Lezers moeten elke afzonderlijke statische benchmarkscore met voorzichtigheid behandelen en naar resultaten zoeken op basis van nieuwe of bestaande gegevens voordat ze sterke conclusies trekken.
Het in de praktijk brengen
Waarom het ertoe doet
- Duidelijkere beslissingen. Het helpt u duidelijke technische claims te scheiden van marketingtaal.
- Kosten en budget. U kunt betere implementatievragen stellen voordat u geld of tijd uitgeeft.
- Team en workflow. Teams met gedeeld begrip nemen betere product-, beleids- en leerbeslissingen.
Pas op voor
- Verschillende teams kunnen dezelfde term verschillend gebruiken, dus definieer de reikwijdte vroeg.
- Benchmarks kunnen er sterk uitzien, terwijl de prestaties in de echte wereld ongelijkmatig zijn.
- Het negeren van datakwaliteit en evaluatieplannen zorgt vaak voor fragiele resultaten.
Volgende stappen
- Begin met een definitie in duidelijke taal van het gewenste resultaat.
- Kies één successtatistiek en één faalconditie voordat u gaat testen.
- Voer een kleine pilot uit met representatieve gegevens, niet met een gepolijste demoset.
- Documenteer waar benchmarkcontaminatie helpt en waar eenvoudigere methoden beter zijn.
Blijf verkennen
Gratis nieuwsbrief
Ontvang de dagelijkse AI-briefing
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Doe de benchmarkbesmettingsquiz
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Veelgestelde vragen
Wat is benchmarkverontreiniging?
Benchmarkbesmetting vindt plaats wanneer vragen of antwoorden van een evaluatiebenchmark in de trainingsgegevens van een model terechtkomen. Een hoge score kan dus een weerspiegeling zijn van memorisatie in plaats van echte bekwaamheid. Het is van belang omdat cijfers op het scorebord onderzoeksclaims en aankoopbeslissingen aansturen, en vervuilde scores overdrijven hoe een model zal presteren bij problemen die het nog nooit heeft gezien.
Wat is benchmarkverontreiniging?
Besmetting betekent dat het model mogelijk testmateriaal heeft gezien tijdens de training, zodat de score een weerspiegeling kan zijn van het onthouden ervan.
Wat is het doel van de kanarie-snaar in BIG-bench-taken?
Een unieke identificatie maakt het gemakkelijk om benchmarktekst uit corpora te vinden en te verwijderen, en om na te gaan of een model deze heeft onthouden.
Wat suggereerde het GSM1k-onderzoek?
Een daling van het aantal nieuwe problemen die qua stijl en moeilijkheidsgraad overeenkomen, wijst eerder op een overmatige aanpassing aan de publieke maatstaf dan op algemene wiskundige vaardigheden.
Welke overlapanalyse is uitgevoerd in het GPT-3-paper?
De auteurs van GPT-3 controleerden de overlap van 13 gram en erkenden een bug waardoor sommige overlappingen niet werden verwijderd.
Wat is het kernidee van Min-K% Prob?
De methode berekent het gemiddelde van de laagste k procent van de token-log-kansen; De uit het hoofd geleerde tekst scoort ongewoon hoog, omdat weinig ervan het model verrast.
Blijf leren
Gerelateerde gidsen
Er zijn meer handleidingen voor dit onderwerp geselecteerd