Nedir Çıkarım?

Üretimde model isteklerini alan ve tahminleri döndüren konuşlandırılmış bir API arayüzü.

İnsanların yapay zeka çıktılarını incelediği, yönlendirdiği veya geçersiz kıldığı bir iş akışı.

Model çıktılarının sabit bir dizi yazılı prensip tarafından yönlendirildiği bir eğitim ve davranış şekillendirme yaklaşımı.

Çıkarımda daha az işlem kullanırken daha büyük bir modelin davranışını taklit etmek üzere eğitilmiş daha küçük bir model.

Maliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.

Küçük bir taslak modelin, daha büyük bir modelin paralel olarak doğruladığı belirteçleri önerdiği bir çıkarım hızlandırma yöntemi.