क्या है? अनुमान?
परिभाषा
रनटाइम चरण जहां एक प्रशिक्षित मॉडल भविष्यवाणियां या आउटपुट उत्पन्न करता है।
संबंधित शर्तें
हमारी निःशुल्क मार्गदर्शिकाओं में और जानें
AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs