Quiz dotyczący koncentracji uwagi

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jaka jest kluczowa różnica między uwagą własną a uwagą krzyżową?
   • W przypadku wzajemnej uwagi zapytania pochodzą z jednej sekwencji, a klucze/wartości z innej
   • Uwaga krzyżowa nie wykorzystuje softmaxu
   • Samouważność działa tylko na obrazy
   • Uwaga krzyżowa nie może być trenowana przy zniżaniu gradientowym
2. Skąd w transformatorze koder-dekoder pochodzą zapytania o wzajemne uwagi?
   • Wyjścia enkodera
   • Aktualny stan dekodera
   • Tylko surowe osadzania wejściowe
   • Oddzielna macierz losowa
3. Dlaczego dwie sekwencje uwagi krzyżowej mogą mieć różną długość lub modalność?
   • Ponieważ uwaga wymaga danych wejściowych o równej długości
   • Ponieważ całkowicie ignoruje jedną z sekwencji
   • Ponieważ zapytania i klucze pochodzą z różnych, niezależnych źródeł
   • Ponieważ najpierw dopasowuje wszystko do ustalonego rozmiaru
4. W jaki sposób Stable Diffusion wykorzystuje wzajemną uwagę?
   • Aby skompresować obrazy do mniejszych plików
   • Aby przetłumaczyć tekst między językami
   • Aby usunąć szum z dźwięku
   • Aby uwarunkować wygenerowane obszary obrazu w monicie tekstowym
5. Jakie działanie matematyczne dzieli uwagę krzyżową z samouwagą?
   • Skalowana uwaga iloczynu punktowego z softmax
   • Splot po pikselach
   • Powtarzające się aktualizacje stanu
   • Zakodowane na stałe tabele przeglądowe
6. What gate does Flamingo use to control information flow through its cross-attention layers?
   • A hard threshold initialized to one
   • A tanh gate initialized to zero
   • A fixed residual weight of 0.5
   • A learned vocabulary lookup table
7. What input sequence structure does Flamingo’s paper say its visual-language model can handle?
   • Only one image followed by a fixed-length label
   • Only text tokens with no visual inputs
   • Visual and textual data interleaved in arbitrary sequences
   • Only video frames with no text
8. What is one purpose of cross-attention in Flamingo’s visual-language architecture?
   • It replaces all text tokens with pixels
   • It prevents any information from passing between modalities
   • It performs only image resizing
   • It lets language-model layers incorporate visual features from image/video inputs