O que é Decodificação Protegida?

Uma estratégia de decodificação que faz amostras apenas dos k próximos tokens mais prováveis.

Uma estratégia de decodificação que faz amostras do menor conjunto de tokens cujas probabilidades somam p.

Lógica que valida e converte a saída do modelo em estruturas fortemente tipadas e utilizáveis por máquina.

Um método de aceleração de inferência em que um modelo pequeno propõe tokens que um modelo maior verifica em paralelo.

Uma configuração de decodificação que reduz a probabilidade de tokens que o modelo já produziu para reduzir loops.

Uma configuração de decodificação que reduz a probabilidade de tokens proporcionalmente à frequência com que apareceram até o momento.