सीखें समाचार टूल्स नौकरियां मिशन

एआई शब्दावली शब्द

ध्यान तंत्र क्या है?

परिभाषा

एक मॉडल घटक जो आउटपुट उत्पन्न करते समय इनपुट के प्रासंगिक भागों पर गतिशील रूप से ध्यान केंद्रित करता है।

संपूर्ण AI शब्दावली ब्राउज़ करें सभी निःशुल्क एआई गाइडों का अन्वेषण करें

एनकोडरमॉडल का वह घटक जो इनपुट को अव्यक्त अभ्यावेदन में परिवर्तित करता है।बहु-प्रमुख ध्यानएक ट्रांसफार्मर तंत्र जो विभिन्न प्रकार के रिश्तों को पकड़ने के लिए समानांतर में कई ध्यान संचालन चलाता है।अलीबीएक स्थितीय पूर्वाग्रह विधि जो टोकन दूरी के आधार पर ध्यान स्कोर को दंडित करती है, जिससे मॉडलों को लंबे संदर्भों में मदद मिलती है।वर्गीकरणएक कार्य जहां एक मॉडल एक या अधिक पूर्वनिर्धारित श्रेणियों के लिए इनपुट निर्दिष्ट करता है।प्रसंग विंडोएक भाषा मॉडल एक बार में इनपुट टोकन की अधिकतम मात्रा संसाधित कर सकता है।डेटा बहावसमय के साथ वास्तविक दुनिया के इनपुट डेटा में बदलाव जो मॉडल के प्रदर्शन को ख़राब कर सकता है।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

Attention Rollout and Head Pruning Sequence Parallelism and Ring Attention Multi-Head Latent Attention RWKV Linear Attention

यह भी देखें

Artificial Intelligence (AI)Autonomous System API (Application Programming Interface)Backpropagation Annotation Baseline Model Algorithmic Transparency Benchmark