Yapay Zeka Sözlüğü Terimi

Çıkarım nedir?

Tanım

Eğitilmiş bir modelin tahminler veya çıktılar ürettiği çalışma zamanı aşaması.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Çıkarım Uç NoktasıÜretimde model isteklerini alan ve tahminleri döndüren konuşlandırılmış bir API arayüzü.Döngüdeki İnsanİnsanların yapay zeka çıktılarını incelediği, yönlendirdiği veya geçersiz kıldığı bir iş akışı.Anayasal Yapay ZekaModel çıktılarının sabit bir dizi yazılı prensip tarafından yönlendirildiği bir eğitim ve davranış şekillendirme yaklaşımı.Damıtılmış ModelÇıkarımda daha az işlem kullanırken daha büyük bir modelin davranışını taklit etmek üzere eğitilmiş daha küçük bir model.Kullanıma Dayalı FaturalandırmaMaliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.Spekülatif Kod ÇözmeKüçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

Ayrıca bakınız

In-Context LearningInference-Time ComputeHyperparameterInstruction TuningIntent ClassificationHallucinationJailbreakGuardrails