सीखें समाचार टूल्स नौकरियां मिशन

एआई शब्दावली शब्द

विलंबता क्या है?

परिभाषा

अनुरोध भेजने और मॉडल का आउटपुट प्राप्त करने के बीच का समय।

संपूर्ण AI शब्दावली ब्राउज़ करें सभी निःशुल्क एआई गाइडों का अन्वेषण करें

ध्यान तंत्रएक मॉडल घटक जो आउटपुट उत्पन्न करते समय इनपुट के प्रासंगिक भागों पर गतिशील रूप से ध्यान केंद्रित करता है।स्वायत्त प्रणालीएक ऐसी प्रणाली जो वास्तविक समय में सीमित या बिना किसी प्रत्यक्ष मानव नियंत्रण के निर्णय ले सकती है और कार्य कर सकती है।क्लिपएक मल्टीमॉडल मॉडल आर्किटेक्चर जो पाठ और छवियों के बीच साझा प्रतिनिधित्व सीखता है।डेटा बहावसमय के साथ वास्तविक दुनिया के इनपुट डेटा में बदलाव जो मॉडल के प्रदर्शन को ख़राब कर सकता है।अनुमान-समय गणनाप्रत्येक प्रतिक्रिया उत्पन्न करते समय उपभोग की गई प्रसंस्करण शक्ति की मात्रा।ज्ञान कटऑफसमय का नवीनतम बिंदु मॉडल के प्रशिक्षण डेटा में प्रतिबिंबित होता है।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

Tail Latency in Model Serving Reducing LLM App Latency Time to First Token and Latency Metrics

यह भी देखें

Label Smoothing Large Language Model (LLM)Knowledge Graph Learning Rate Knowledge Distillation LoRA (Low-Rank Adaptation)Loss Function Jailbreak