Термин от речника на AI

Какво е Таксуване въз основа на употребата?

Определение

Ценообразуване, при което разходите се мащабират с извиквания на API, токени, време за извод или изразходвани изчисления.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

Извод-изчисляване на времетоКоличеството процесорна мощност, изразходвана при генериране на всеки отговор.Изчисляване на тестово времеДопълнителни изчисления за изводи, използвани по време на генериране на отговор за подобряване на качеството или разсъжденията.Спекулативно декодиранеМетод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.Плъзгащ се прозорец ВниманиеМодел на внимание, при който всеки токен обръща внимание само на прозорец с фиксиран размер от близки токени, за да намали изчисленията.ИзводФазата на изпълнение, при която обучен модел генерира прогнози или резултати.RAG (генериране с допълнено извличане)Метод, който извлича външно знание и го захранва за генериране по време на извод.

Научете повече в нашите безплатни ръководства

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Вижте също

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop