Cos'è Attenzione multi-testa?

Un'architettura neurale che utilizza l'attenzione per modellare le relazioni tra sequenze in parallelo.

Una tecnica di recupero che riscrive la query dell'utente in diverse varianti per migliorare il ricordo.

Un componente del modello che si concentra dinamicamente sulle parti rilevanti di un input quando si produce un output.

Un algoritmo di attenzione ottimizzato che riduce l'utilizzo della memoria e accelera l'addestramento e l'inferenza del trasformatore.

Un modello in grado di elaborare o generare più tipi di dati come testo, immagine e audio.

Una struttura grafica di entità e relazioni utilizzata per il ragionamento o il recupero.