Глоссарий терминов искусственного интеллекта

Что такое Вспышка внимания?

Определение

Оптимизированный алгоритм внимания, который уменьшает использование памяти и ускоряет обучение и вывод преобразователей.

Связанные термины

Магазин функций
Управляемая система для последовательного хранения и предоставления проверенных функций машинного обучения для обучения и вывода.
Обратное распространение ошибки
Основной алгоритм обучения, который обновляет веса модели путем распространения ошибок прогнозирования обратно по сети.
Квантование модели
Снижение числовой точности весов модели для уменьшения затрат на память и логические выводы.
Трансформатор
Нейронная архитектура, которая использует внимание для параллельного моделирования отношений между последовательностями.
Потеря тренировки
Значение ошибки модели вычисляется во время обучения и со временем оптимизируется в сторону уменьшения.
Многоголовое внимание
Механизм-преобразователь, который параллельно выполняет несколько операций внимания для фиксации различных типов отношений.

Узнайте больше в наших бесплатных руководствах.

См. также