सीखें समाचार टूल्स नौकरियां मिशन

एआई शब्दावली शब्द

बहु-प्रमुख ध्यान क्या है?

परिभाषा

एक ट्रांसफार्मर तंत्र जो विभिन्न प्रकार के रिश्तों को पकड़ने के लिए समानांतर में कई ध्यान संचालन चलाता है।

संपूर्ण AI शब्दावली ब्राउज़ करें सभी निःशुल्क एआई गाइडों का अन्वेषण करें

ट्रांसफार्मरएक तंत्रिका वास्तुकला जो समानांतर अनुक्रमों में मॉडल संबंधों पर ध्यान का उपयोग करती है।बहु-क्वेरी पुनर्प्राप्तिएक पुनर्प्राप्ति तकनीक जो रिकॉल को बेहतर बनाने के लिए उपयोगकर्ता क्वेरी को कई प्रकारों में फिर से लिखती है।ध्यान तंत्रएक मॉडल घटक जो आउटपुट उत्पन्न करते समय इनपुट के प्रासंगिक भागों पर गतिशील रूप से ध्यान केंद्रित करता है।फ़्लैश ध्यानएक अनुकूलित ध्यान एल्गोरिथ्म जो मेमोरी उपयोग को कम करता है और ट्रांसफार्मर प्रशिक्षण और अनुमान को गति देता है।मल्टीमॉडल मॉडलएक मॉडल जो टेक्स्ट, छवि और ऑडियो जैसे कई डेटा प्रकारों को संसाधित या उत्पन्न कर सकता है।ज्ञान ग्राफतर्क या पुनर्प्राप्ति के लिए उपयोग की जाने वाली संस्थाओं और संबंधों की एक ग्राफ़ संरचना।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

Multilingual LLMs Multimodal Search Hard Parameter Sharing in Multi-Task Networks Attention Rollout and Head Pruning

यह भी देखें

Positional Encoding QLoRA RoPE (Rotary Positional Embeddings)DPO (Direct Preference Optimization)ALiBi Tree of Thoughts Sliding Window Attention ReAct