Вернуться ко всем викторинамВикторина, связанная с руководствомЖесткий Уровень6 Вопросы

Викторина SwiGLU и Gated Activations

Проверьте свое понимание закрытых активаций и почему SwiGLU стал стандартным уровнем прямой связи трансформатора.

Связанные направляющие путиСвиглу и закрытые активации
Вопрос 1 из 6

Какая основная операция определяет линейный блок с затвором?