Nedir Çıkarım Uç Noktası?
Tanım
Üretimde model isteklerini alan ve tahminleri döndüren konuşlandırılmış bir API arayüzü.
İlgili terimler
Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin
AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs