Що є Багатостороння увага?
Визначення
Механізм трансформатора, який виконує декілька операцій уваги паралельно, щоб охопити різні типи зв’язків.
Споріднені терміни
Дізнайтеся більше в наших безкоштовних посібниках
Multilingual LLMsMultimodal SearchHard Parameter Sharing in Multi-Task NetworksAttention Rollout and Head Pruning