什麼是 多頭注意力?

一種神經架構，利用注意力並行地對序列之間的關係進行建模。

一種檢索技術，將使用者查詢重寫為多個變體以提高召回率。

產生輸出時動態注意輸入的相關部分的模型組件。

一種優化的注意力演算法，可減少記憶體使用並加速 Transformer 訓練和推理。

可以處理或產生文字、圖像和音訊等多種資料類型的模型。

用於推理或檢索的實體和關係的圖形結構。