Термін глосарію AI

Що таке Розріджена модель?

Визначення

Модель, де багато параметрів дорівнюють нулю або неактивні, щоб зменшити обчислення.

Нульове збереження данихПолітика, згідно з якою корисні навантаження запитів/відповідей не зберігаються після обробки за межами короткотривалих операційних вікон.Розсувне вікно УвагаШаблон уваги, де кожен маркер звертається лише до вікна фіксованого розміру сусідніх маркерів, щоб зменшити обчислення.Оперативна ін'єкціяШаблон атаки, коли зловмисні інструкції вставляються у вхідні дані моделі або отриманий вміст.Конституційний ШІПідхід до навчання та формування поведінки, коли результати моделі керуються фіксованим набором письмових принципів.Прихований простірСтислий простір репрезентації, де подібні поняття розташовані поруч один з одним як вектори.Спекулятивне декодуванняМетод прискорення логічного висновку, коли маленька чернеткова модель пропонує токени, які більша модель перевіряє паралельно.

Дізнайтеся більше в наших безкоштовних посібниках

Дивіться також