Nauka Wiadomości Narzędzia Oferty pracy Misja

Termin ze słownika AI

Czym jest Kara za częstotliwość?

Definicja

Ustawienie dekodowania, które zmniejsza prawdopodobieństwo pojawienia się tokenów proporcjonalnie do tego, jak często pojawiały się one do tej pory.

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI

Kara za obecnośćUstawienie dekodowania, które zmniejsza prawdopodobieństwo pojawienia się tokenów w ogóle, zachęcając do nowych tematów.Kara za powtórzenieUstawienie dekodowania, które zmniejsza prawdopodobieństwo żetonów już wyprodukowanych przez model w celu ograniczenia pętli.PerplexityMetryka modelu językowego mierząca stopień zaskoczenia modelu prawdziwymi następnymi tokenami.Próbkowanie z góry kStrategia dekodowania, która pobiera próbki tylko z k najprawdopodobniej kolejnych tokenów.Strzeżone dekodowanieStrategia generowania, która ogranicza tokeny wyjściowe do prawidłowych struktur lub wyborów zgodnych z zasadami.Dekodowanie spekulatywneMetoda przyspieszania wnioskowania, w której model o małej wersji roboczej proponuje tokeny, które większy model weryfikuje równolegle.

Dowiedz się więcej z naszych bezpłatnych przewodników

Repetition Penalty and Decoding Controls Mel-Frequency Cepstral Coefficients Time-Frequency Masking for Source Separation High-Frequency Trading Explained

Zobacz także

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking