対照デコーディング

It amplifies what the expert knows and the amateur misses, reducing repetition and bland output.

言語モデルが次の単語を選択するとき、その語彙に対する確率が生成されます。対照的デコード (2022 年に Li らによって導入) は、同じコンテキストで 2 つのモデル、つまり大規模な「専門家」と小規模の「アマチュア」を実行します。専門家の生の確率を信頼する代わりに、専門家の対数確率とアマチュアの対数確率の差によって各候補トークンをスコア付けします。エキスパートが好むトークンですが、アマチュアはブーストされません。両方のモデルが好む一般的な単語（「the」や繰り返されるフレーズなど）は、アマチュアもそれらを好むため、抑制されます。もっともらしさフィルターは、専門家が非常に可能性が低いと判断したトークンを最初に破棄するため、コントラストがナンセンスを助長することはありません。その結果、グリーディ サンプリングや核サンプリングよりも流暢で一貫性があり、繰り返しの少ない長文テキストが得られ、追加のトレーニングは必要ありません。