Wat is Multi-head aandacht?

Een neurale architectuur die aandacht gebruikt om relaties tussen reeksen parallel te modelleren.

Een ophaaltechniek die de gebruikersquery in verschillende varianten herschrijft om de herinnering te verbeteren.

Een modelcomponent die zich dynamisch richt op relevante delen van een input bij het produceren van een output.

Een geoptimaliseerd aandachtsalgoritme dat het geheugengebruik vermindert en de training en gevolgtrekking van transformatoren versnelt.

Een model dat meerdere gegevenstypen, zoals tekst, afbeeldingen en audio, kan verwerken of genereren.

Een grafiekstructuur van entiteiten en relaties die wordt gebruikt voor redeneren of ophalen.