Глоссарий терминов искусственного интеллекта

Что такое Позиционное кодирование?

Определение

Информация добавлена во встраивания токенов, чтобы преобразователи могли различать порядок последовательности.

Связанные термины

RoPE (вращательно-позиционные вложения)
Метод позиционного кодирования, который меняет векторы запроса и ключа для кодирования относительных позиций токенов.
АлиБи
Метод позиционной предвзятости, который штрафует оценки внимания на основе расстояния между маркерами, помогая моделям экстраполировать на более длинные контексты.
Точная настройка с эффективным использованием параметров (PEFT)
Методы, которые адаптируют модели путем обучения небольшого подмножества добавленных параметров.
AGI (Общий искусственный интеллект)
Гипотетическая система искусственного интеллекта, способная выполнять большинство интеллектуальных задач на человеческом уровне во многих областях.
ИИ-агент
Программная система, которая может наблюдать, рассуждать и предпринимать действия для достижения цели, часто используя инструменты и память.
Аннотация
Добавленные человеком метки или метаданные, используемые для обучения или оценки моделей машинного обучения.

Узнайте больше в наших бесплатных руководствах.

См. также