人工智慧術語

什麼是RoPE(旋轉位置嵌入)?

定義

一種位置編碼方法,可旋轉查詢向量和鍵向量以對相對標記位置進行編碼。