← Назад до всіх тестівВікторина, пов’язана з посібником • важко Рівень • 6 Питання

Тест на увагу Block-Sparse та Native Sparse

Оцініть своє розуміння того, як розріджена увага зменшує вартість трансформатора на довгих послідовностях.

Пов'язані напрямні шляхиБлок Sparse і Native Sparse Attention

Питання 1 з 6

Чому стандартна самоувага дорога для довгих послідовностей?