क्या है? बहु-प्रमुख ध्यान?

एक तंत्रिका वास्तुकला जो समानांतर अनुक्रमों में मॉडल संबंधों पर ध्यान का उपयोग करती है।

एक पुनर्प्राप्ति तकनीक जो रिकॉल को बेहतर बनाने के लिए उपयोगकर्ता क्वेरी को कई प्रकारों में फिर से लिखती है।

एक मॉडल घटक जो आउटपुट उत्पन्न करते समय इनपुट के प्रासंगिक भागों पर गतिशील रूप से ध्यान केंद्रित करता है।

एक अनुकूलित ध्यान एल्गोरिथ्म जो मेमोरी उपयोग को कम करता है और ट्रांसफार्मर प्रशिक्षण और अनुमान को गति देता है।

एक मॉडल जो टेक्स्ट, छवि और ऑडियो जैसे कई डेटा प्रकारों को संसाधित या उत्पन्न कर सकता है।

तर्क या पुनर्प्राप्ति के लिए उपयोग की जाने वाली संस्थाओं और संबंधों की एक ग्राफ़ संरचना।