Termin ze słownika AI

Czym jest Rozliczenia oparte na wykorzystaniu?

Definicja

Ceny, w których koszty skalują się w zależności od wywołań API, tokenów, czasu wnioskowania lub zużytych mocy obliczeniowych.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Obliczanie czasu wnioskowaniaIlość mocy obliczeniowej zużywanej podczas generowania każdej odpowiedzi.Obliczanie czasu testuDodatkowe obliczenia wnioskowania wykorzystywane podczas generowania odpowiedzi w celu poprawy jakości lub rozumowania.Dekodowanie spekulatywneMetoda przyspieszania wnioskowania, w której model o małej wersji roboczej proponuje tokeny, które większy model weryfikuje równolegle.Uwaga na przesuwane oknoWzorzec uwagi, w którym każdy token obsługuje tylko okno pobliskich tokenów o stałym rozmiarze, aby zmniejszyć obliczenia.WnioskowanieFaza środowiska uruchomieniowego, w której przeszkolony model generuje prognozy lub dane wyjściowe.RAG (generacja wspomagana odzyskiwaniem)Metoda, która pobiera wiedzę zewnętrzną i przekazuje ją do generowania w momencie wnioskowania.

Dowiedz się więcej z naszych bezpłatnych przewodników

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Zobacz także

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop