← Назад до всіх тестівВікторина, пов’язана з посібником • важко Рівень • 6 Питання

SwiGLU та вікторина Gated Activations

Перевірте своє розуміння закритих активацій і чому SwiGLU став стандартним рівнем прямого зв’язку трансформатора.

Пов'язані напрямні шляхиАктивації Swiglu та Gated

Питання 1 з 6

Яка основна операція визначає стробований лінійний блок?