什麼是 Top-p（核）採樣?

僅從 k 個最有可能的下一個標記中採樣的解碼策略。

將輸出代幣限制為有效結構或符合策略的選擇的生成策略。

一種對一組初始檢索結果重新排序以將最相關的項目放在頂部的模型。

一種解碼演算法，在每一步中保留前幾個候選序列以找到更高機率的輸出。

控制生成輸出中的隨機性的取樣設定。

由語言模型處理的文字區塊，例如單字或符號。