co je Řídký model?

Zásada, kdy datové části požadavku/odpovědi nejsou ukládány po zpracování mimo krátkodobá provozní okna.

Vzor pozornosti, kde se každý token věnuje pouze oknu blízkých tokenů s pevnou velikostí, aby se snížil počet výpočtů.

Vzor útoku, kdy jsou škodlivé instrukce vkládány do modelových vstupů nebo načteného obsahu.

Tréninkový a behaviorální přístup, kde se výstupy modelu řídí pevně daným souborem písemných principů.

Komprimovaný reprezentační prostor, kde jsou podobné koncepty umístěny blízko sebe jako vektory.

Metoda zrychlení inference, kdy malý koncept modelu navrhuje tokeny, které větší model ověřuje paralelně.