什麼是 BPE（位元組對編碼）?

將文字拆分為模型輸入標記的過程。

將圖像或掃描中的文字轉換為機器可讀文字的技術。

僅從 k 個最有可能的下一個標記中採樣的解碼策略。

核心訓練演算法透過網路向後傳播預測誤差來更新模型權重。

一種將查詢和文件編碼為單獨向量的模型，以便可以快速大規模地比較它們。

一種解碼演算法，在每一步中保留前幾個候選序列以找到更高機率的輸出。