NastępnyNastępny poradnik
Benchmarki AI
Techniczne
PODSTAWOWY PRZEWODNIK
Zanieczyszczenie wzorcowe
Zanieczyszczenie testu porównawczego ma miejsce, gdy pytania lub odpowiedzi z testu porównawczego ewaluacyjnego trafiają do danych szkoleniowych modelu, więc wysoki wynik może odzwierciedlać zapamiętywanie, a nie rzeczywiste umiejętności.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
Ma to znaczenie, ponieważ liczby w rankingach wpływają na wnioski badawcze i decyzje dotyczące zakupu, a zanieczyszczone wyniki zawyżają sposób, w jaki model poradzi sobie z problemami, których nigdy nie widział.
Głębokie nurkowanie
Large language models are trained on web-scale text that includes GitHub, arXiv papers, forums and tutorial sites. Popular benchmarks are public by design, so their questions, answers and discussions of them get copied across the web and swept into training data. Contamination can be direct, where the exact test item appears, or indirect, through paraphrases, translations, solution write-ups, or synthetic data generated by another model that had seen the benchmark. It can also enter during fine-tuning if instruction datasets were assembled from benchmark-like sources. A useful distinction is between seeing only the question and seeing the question with its answer. The second is more damaging, because the model can recall the answer instead of working it out. The result is an inflated score that does not transfer to new problems. Lab awareness is not new. The GPT-3 paper (2020) ran a 13-gram overlap analysis between its benchmarks and training data and acknowledged that a bug left some overlaps in place. When training data is available, overlap search is the most direct check. When it is not, researchers use indirect methods: prompting the model with the start of a test item to see if it completes the rest verbatim; membership inference methods such as Min-K% Prob (Shi and colleagues, 2023), which look at how confidently a model predicts a text's tokens; comparing scores on original items against rewritten or newly written equivalents; and time-based splits that compare problems created before and after the training cutoff. Two misconceptions are common. First, overlap does not always raise scores much; some studies find modest effects on certain tasks. Second, finding no exact overlap does not prove a benchmark is clean, because paraphrased or translated copies slip past string matching. Mitigations include private held-out test sets, canary strings, regularly refreshed benchmarks such as LiveBench and LiveCodeBench, decontamination filters, and publishing contamination analyses alongside results.
Implementacja w świecie rzeczywistym
Problemy z benchmarkiem matematycznym są ponownie publikowane na forach z działającymi rozwiązaniami; indeksowanie sieci zbiera te strony, a wytrenowany na nich model odtwarza później dokładne odpowiedzi, łącznie z dziwactwem w oryginalnym brzmieniu.
Naukowcy z Scale AI napisali GSM1k, nowe zadania matematyczne dla szkół podstawowych, dopasowane stylem i poziomem trudności do GSM8K, i odkryli, że niektóre modele uzyskały zauważalnie niższe wyniki w nowym zestawie, co jest oznaką nadmiernego dopasowania do publicznego punktu odniesienia.
Test porównawczy kodowania, który określa datę każdego problemu, pokazuje model rozwiązujący znacznie więcej problemów opublikowany przed zakończeniem szkolenia niż później, co jest wzorcem, który LiveCodeBench miał ujawnić.
Zadania BIG-bencha obejmują unikalny ciąg znaków, dzięki czemu zespoły zajmujące się danymi mogą odfiltrować dowolny dokument zawierający go z korpusów szkoleniowych, a później sprawdzić, czy model może go odtworzyć.
Przyszłość wzorcowego zanieczyszczenia
Praktyka ewaluacyjna przesuwa się w stronę prywatnych lub częściowo prywatnych zestawów testów, testów porównawczych, które z czasem dodają nowe elementy, oraz zewnętrznych ewaluatorów, którzy kontrolują dane testowe. Stwarza to prawdziwe napięcie związane z otwartością, ponieważ publiczne punkty odniesienia można łatwo odtworzyć i sprawdzić. Większa przejrzystość danych szkoleniowych znacznie ułatwiłaby kontrolę zanieczyszczeń, ale wielu twórców modeli nie publikuje pełnych szczegółów danych. Czytelnicy powinni traktować każdy pojedynczy wynik testu statycznego z ostrożnością i przed wyciągnięciem jednoznacznych wniosków szukać wyników na świeżych lub nieaktualnych danych.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Jaśniejsze decyzje. Pomaga oddzielić jasne twierdzenia techniczne od języka marketingowego.
- Koszt i budżet. Możesz zadawać pytania dotyczące lepszego wdrożenia, zanim wydasz pieniądze lub czas.
- Zespół i przepływ pracy. Zespoły charakteryzujące się wspólnym zrozumieniem podejmują lepsze decyzje dotyczące produktów, zasad i uczenia się.
Uważaj na
- Różne zespoły mogą odmiennie używać tego samego terminu, dlatego należy wcześniej zdefiniować zakres.
- Testy porównawcze mogą wyglądać dobrze, podczas gdy wydajność w świecie rzeczywistym jest nierówna.
- Ignorowanie planów dotyczących jakości danych i oceny często skutkuje kruchymi wynikami.
Kolejne kroki
- Zacznij od jasnej definicji potrzebnego wyniku.
- Przed testowaniem wybierz jedną metrykę sukcesu i jeden warunek niepowodzenia.
- Przeprowadź mały pilotaż z reprezentatywnymi danymi, a nie dopracowanym zestawem demonstracyjnym.
- Dokumentuj, gdzie pomaga zanieczyszczenie wzorcowe i gdzie lepsze są prostsze metody.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Weź udział w quizie dotyczącym zanieczyszczenia wzorcowego
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Co to jest zanieczyszczenie wzorcowe?
Zanieczyszczenie testu porównawczego ma miejsce, gdy pytania lub odpowiedzi z testu porównawczego ewaluacyjnego trafiają do danych szkoleniowych modelu, więc wysoki wynik może odzwierciedlać zapamiętywanie, a nie rzeczywiste umiejętności. Ma to znaczenie, ponieważ liczby w rankingach wpływają na wnioski badawcze i decyzje dotyczące zakupu, a zanieczyszczone wyniki zawyżają sposób, w jaki model poradzi sobie z problemami, których nigdy nie widział.
Co to jest zanieczyszczenie wzorca?
Zanieczyszczenie oznacza, że model mógł widzieć materiał testowy podczas szkolenia, więc jego wynik może odzwierciedlać zapamiętywanie.
Jaki jest cel kanarkowego sznurka zawartego w zadaniach BIG-bench?
Unikalny identyfikator ułatwia znalezienie i usunięcie tekstu wzorcowego z korpusów oraz sprawdzenie, czy model go zapamiętał.
Co sugeruje badanie GSM1k?
Spadek liczby nowych problemów dopasowanych pod względem stylu i trudności wskazuje na nadmierne dopasowanie do publicznego punktu odniesienia, a nie na ogólne umiejętności matematyczne.
Jaką analizę nakładania się przeprowadzono w artykule GPT-3?
Autorzy GPT-3 sprawdzili 13-gramowe nakładanie się i potwierdzili błąd, który powodował, że niektóre nałożenia nie zostały usunięte.
Jaka jest podstawowa idea Min-K% Prob?
Metoda uśrednia najniższe k procent prawdopodobieństw logarytmicznych tokenów; zapamiętany tekst osiąga niezwykle wysokie wyniki, ponieważ niewiele w nim zaskakuje modela.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat