Quiz połączony z przewodnikiem · Średni Poziom
Quiz dotyczący wygładzania etykiet
Obejmuje wygładzone cele i epsilon, efekty kalibracji zależne od zadania, kompromisy w zakresie destylacji oraz dlaczego wyniki zależą od danych i celu.
Pytanie 1 z 8
Co wygładzanie etykiet zmienia w odniesieniu do celów treningowych?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Co wygładzanie etykiet zmienia w odniesieniu do celów treningowych?
- Zmiękcza cele typu one-hot, więc prawdziwa klasa jest poniżej 1,0, a inne są nieco powyżej 0
- Usuwa funkcję straty
- Usuwa nieprawidłowe klasy
- Podwaja tempo uczenia się
- Typową wartością parametru wygładzania epsilon jest:
- 0,9
- 0,1
- 5,0
- 0,0
- Jaki jest zamierzony efekt zastąpienia twardych, gorących celów celami wygładzonymi?
- Wymuś, aby każda klasa miała równe prawdopodobieństwo
- Gwarantuję największy możliwy logit dla prawdziwej klasy
- Unikaj wymagania, aby oznaczona klasa otrzymywała docelowe prawdopodobieństwo dokładnie jeden
- Usuń potrzebę etykietowanych danych szkoleniowych
- Które charakterystyczne architektury są wybitnymi przykładami zastosowania wygładzania etykiet?
- Tylko AlexNet i LeNet
- Tylko ResNet-50 i VGG
- AlphaGo i AlphaZero
- Incepcja-v3 i Transformator
- Co wygładzanie etykiet może zrobić z kalibracją?
- Może poprawić kalibrację w niektórych ustawieniach, ale efekt zależy od zadania i modelu
- Gwarantuje doskonałą kalibrację dla każdego klasyfikatora
- Nie może wpływać na przewidywane prawdopodobieństwa
- Zawsze sprawia, że pewność jest równa dokładności
- Jaka jest udokumentowana wada wygładzania etykiet?
- To zawsze zmniejsza dokładność
- Może wymazać drobne podobieństwa międzyklasowe, szkodząc destylacji wiedzy
- Wymaga dwukrotnie większej ilości danych treningowych
- Działa tylko na tekście
- Dlaczego wygładzanie etykiet może komplikować destylację wiedzy?
- Konwertuje każdą etykietę klasy na obraz
- Zmusza ucznia do użycia innego tokenizera
- Może usunąć z logitów informację o podobieństwach pomiędzy niepoprawnymi klasami
- Uniemożliwia nauczycielowi tworzenie logitów
- Co powinien zweryfikować specjalista, porównując wdrożenia wygładzania etykiet?
- Czy model ma przeglądarkę internetową
- Określa, czy szkolenie używa nazwy pliku walidacyjnego
- Określa, czy logity są przechowywane jako tekst
- Czy epsilon jest dystrybuowany pomiędzy wszystkimi klasami, czy tylko klasami innymi niż docelowe