Cos'è Modello sparso?

Una policy in cui i payload di richiesta/risposta non vengono archiviati dopo l'elaborazione oltre le finestre operative di breve durata.

Un modello di attenzione in cui ogni token si occupa solo di una finestra di dimensione fissa di token vicini per ridurre il calcolo.

Un modello di attacco in cui istruzioni dannose vengono inserite negli input del modello o nel contenuto recuperato.

Un approccio di formazione e modellamento del comportamento in cui i risultati del modello sono guidati da un insieme fisso di principi scritti.

Uno spazio rappresentazionale compresso in cui concetti simili sono posizionati uno vicino all'altro come vettori.

Un metodo di accelerazione dell'inferenza in cui una piccola bozza di modello propone token che un modello più grande verifica in parallelo.