Термін глосарію AI

Що є Позиційне кодування?

Визначення

Інформація, додана до вбудованих токенів, щоб трансформатори могли розрізняти порядок послідовності.

Споріднені терміни

RoPE (ротаційні позиційні вставки)
Метод позиційного кодування, який обертає вектори запиту та ключа для кодування відносних позицій маркерів.
АЛіБі
Метод позиційного упередження, який штрафує показники уваги на основі символічної відстані, допомагаючи моделям екстраполювати на довші контексти.
Параметричне точне налаштування (PEFT)
Методи, які адаптують моделі шляхом навчання невеликої підмножини доданих параметрів.
AGI (загальний штучний інтелект)
Гіпотетична система ШІ, яка може виконувати більшість інтелектуальних завдань на рівні людини в багатьох сферах.
ШІ агент
Програмна система, яка може спостерігати, міркувати та виконувати дії для досягнення мети, часто використовуючи інструменти та пам’ять.
Анотація
Мітки або метадані, додані людиною, використовуються для навчання або оцінки моделей машинного навчання.

Дізнайтеся більше в наших безкоштовних посібниках

See also