Termine del glossario AI

Che cos’è ALiBi?

Definizione

Un metodo di bias posizionale che penalizza i punteggi di attenzione in base alla distanza del token, aiutando i modelli a estrapolare contesti più lunghi.