Co jest Rzadki model?

Zasada, zgodnie z którą ładunki żądań/odpowiedzi nie są przechowywane po przetworzeniu poza krótkotrwałe okna operacyjne.

Wzorzec uwagi, w którym każdy token obsługuje tylko okno pobliskich tokenów o stałym rozmiarze, aby zmniejszyć obliczenia.

Wzór ataku polegający na wstawianiu złośliwych instrukcji do danych wejściowych modelu lub pobranej treści.

Podejście polegające na szkoleniu i kształtowaniu zachowań, w którym wyniki modelu opierają się na ustalonym zestawie pisemnych zasad.

Skompresowana przestrzeń reprezentacyjna, w której podobne pojęcia są umieszczone blisko siebie jako wektory.

Metoda przyspieszania wnioskowania, w której model o małej wersji roboczej proponuje tokeny, które większy model weryfikuje równolegle.