Quiz Wav2Vec 2.0

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jaki podstawowy problem w rozpoznawaniu mowy miał rozwiązać Wav2Vec 2.0?
   • Niedobór oznakowanego (transkrypcyjnego) dźwięku
   • Pliki audio są zbyt duże, aby je przechowywać
   • Mikrofony są za drogie
   • Tekst trudny do tokenizacji
2. Jakiego rodzaju cele nauczania wykorzystuje Wav2Vec 2.0 podczas treningu wstępnego?
   • Bezpośrednia klasyfikacja fonemów z pełnymi etykietami
   • Kontrastowa strata w stosunku do zamaskowanych ukrytych segmentów
   • Rekonstrukcja pikseli
   • Wzmocnienie uczenia się na podstawie informacji zwrotnych od ludzi
3. Który komponent najpierw przetwarza surowy przebieg w Wav2Vec 2.0?
   • Powtarzający się LSTM
   • Próbnik dyfuzyjny
   • Wielowarstwowy koder funkcji CNN
   • Ręcznie wykonany ekstraktor MFCC
4. In a reported LibriSpeech experiment, what small labeled-data setup demonstrated low-label potential?
   • 10 minutes unlabeled with no pretraining
   • 53,000 hours labeled with no pretraining
   • One hour labeled with no unlabeled data
   • 10 minutes labeled after pretraining on 53,000 hours of unlabeled speech
5. Jaka jest rola wyuczonego słownika kodów w Wav2Vec 2.0?
   • Dyskretyzuje ciągły dźwięk na skończone jednostki mowy
   • Przechowuje hasła użytkowników
   • Kompresuje ostateczną transkrypcję
   • Wybiera wzmocnienie mikrofonu
6. Który duży wielojęzyczny model jest zbudowany w oparciu o podejście Wav2Vec 2.0?
   • GPT-2
   • XLS-R
   • Stable Diffusion
   • ResNet-50
7. What does the Transformer contribute during Wav2Vec 2.0 pretraining?
   • Converts transcripts into audio
   • Clusters final text into language labels
   • Contextualizes latent speech features around masked spans
   • Removes the feature encoder
8. What is typically done after self-supervised pretraining to create an ASR model?
   • Replace the audio encoder with an image classifier
   • Train only on unlabeled text
   • Discard the model and use k-means alone
   • Fine-tune with transcribed speech