Yapay Zeka Sözlüğü Terimi

Çıkarım Uç Noktası nedir?

Tanım

Üretimde model isteklerini alan ve tahminleri döndüren konuşlandırılmış bir API arayüzü.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

API (Uygulama Programlama Arayüzü)Bir yazılım sisteminin başka bir sisteme istek göndermesi ve bu sistemden yanıt alması için yapılandırılmış bir yol.ÇıkarımEğitilmiş bir modelin tahminler veya çıktılar ürettiği çalışma zamanı aşaması.Kullanıma Dayalı FaturalandırmaMaliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.Çıkarım Zamanı HesaplamasıHer yanıt üretilirken tüketilen işlem gücü miktarı.Karar AğacıBir dizi eğer-o zaman özellik bölümü aracılığıyla tahminlerde bulunan bir model.ToplulukSağlamlığı veya doğruluğu artırmak için birden fazla modelden gelen tahminleri birleştirmek.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

Ayrıca bakınız

Human Preference ModelKnowledge BaseGuarded DecodingLatent SpaceGroundednessModel RegistryFeature StoreOn-Device AI