Yapay Zeka Sözlüğü Terimi

Kullanıma Dayalı Faturalandırma nedir?

Tanım

Maliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Çıkarım Zamanı HesaplamasıHer yanıt üretilirken tüketilen işlem gücü miktarı.Test Süresi HesaplamasıKaliteyi veya muhakemeyi geliştirmek için yanıt oluşturma sırasında kullanılan ek çıkarım hesaplaması.Spekülatif Kod ÇözmeKüçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.Sürgülü Pencere Dikkatİşlemi azaltmak için her belirtecin yalnızca yakındaki belirteçlerin sabit boyutlu bir penceresine katıldığı bir dikkat modeli.ÇıkarımEğitilmiş bir modelin tahminler veya çıktılar ürettiği çalışma zamanı aşaması.RAG (Geri Alma-Artırılmış Nesil)Dış bilgiyi alan ve onu çıkarım anında nesile aktaran bir yöntem.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Ayrıca bakınız

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop