KI-Glossarbegriff

Was ist Nutzungsbasierte Abrechnung?

Definition

Preisgestaltung, bei der die Kosten mit API-Aufrufen, Token, Inferenzzeit oder verbrauchter Rechenleistung skalieren.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

InferenzzeitberechnungDie Menge an Rechenleistung, die bei der Erstellung jeder Antwort verbraucht wird.TestzeitberechnungZusätzliche Inferenzberechnungen, die während der Antwortgenerierung verwendet werden, um die Qualität oder Argumentation zu verbessern.Spekulative DekodierungEine Inferenzbeschleunigungsmethode, bei der ein kleines Entwurfsmodell Token vorschlägt, die ein größeres Modell parallel überprüft.Schiebefenster AchtungEin Aufmerksamkeitsmuster, bei dem sich jedes Token nur um ein Fenster mit fester Größe benachbarter Token kümmert, um den Rechenaufwand zu reduzieren.SchlussfolgerungDie Laufzeitphase, in der ein trainiertes Modell Vorhersagen oder Ausgaben generiert.RAG (Retrieval‑Augmented Generation)Eine Methode, die externes Wissen abruft und es zum Zeitpunkt der Inferenz in die Generierung einspeist.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Siehe auch

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop