Quiz o architekturze konformerskiej

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jakie dwa mechanizmy łączy architektura Conformer w jednym bloku?
   • Splot i samouważność
   • Powtarzalność i łączenie
   • Drzewa decyzyjne i grupowanie
   • Wyszukiwanie belek i tokenizacja
2. Dlaczego połączenie splotu i uwagi jest szczególnie przydatne w przypadku mowy?
   • Uwaga obsługuje szczegóły lokalnego fonemu, podczas gdy splot obsługuje kontekst globalny
   • Splot oddaje lokalne wzorce, podczas gdy samouważność oddaje kontekst dalekiego zasięgu
   • Obydwa mają znaczenie tylko dla obrazów, a nie dla dźwięku
   • Żadne nie pomaga; chodzi wyłącznie o prędkość
3. Jaka jest struktura „Macaron” lub struktura warstwowa bloku Conformer?
   • Dwie warstwy uwagi wokół jednego splotu
   • Tylko pojedyncza warstwa przekazująca dalej
   • Uwaga i splot zawinięte pomiędzy dwoma półkrokowymi modułami wyprzedzającymi
   • Splot ułożony na splocie
4. Która organizacja wprowadziła konformer i w którym roku?
   • OpenAI w 2018 r
   • Meta w 2015 r
   • Microsoft w 2012 r
   • Google w 2020 roku
5. Co zazwyczaj zawiera moduł splotu wewnątrz konformera?
   • Konw. punktowa, GLU, konw. wgłębna, normalizacja i aktywacja Swish
   • Tylko jedna w pełni połączona warstwa
   • Powtarzająca się komórka LSTM
   • Losowy klasyfikator lasu
6. On LibriSpeech test-clean/test-other, what WER did the original Conformer paper report with an external language model?
   • 2.1% / 4.3%
   • 1.9% / 3.9%
   • 9.1% / 9.3%
   • 0.1% / 0.3%
7. What positional information does the Conformer paper add to attention?
   • A geographic GPS coordinate for every speech frame
   • A fixed class label for each utterance
   • Relative positional encoding
   • A separate video frame index
8. What word error rates did the Conformer paper report without an external language model on LibriSpeech test/test-other?
   • 20.1% / 40.3%
   • 0.1% / 0.3%
   • 12.1% / 14.3%
   • 2.1% / 4.3%