تعلّم الأخبار الأدوات وظائف المهمة

مصطلح مسرد الذكاء الاصطناعي

ما هو اهتمام متعدد الرؤوس؟

التعريف

آلية محولة تقوم بتشغيل العديد من عمليات الانتباه بالتوازي لالتقاط أنواع مختلفة من العلاقات.

تصفح قاموس الذكاء الاصطناعي الكامل استكشف جميع أدلة الذكاء الاصطناعي المجانية

محولبنية عصبية تستخدم الانتباه إلى العلاقات النموذجية عبر التسلسلات بالتوازي.استرجاع الاستعلام المتعددأسلوب استرجاع يقوم بإعادة كتابة استعلام المستخدم إلى عدة متغيرات لتحسين الاستدعاء.آلية الانتباهأحد مكونات النموذج الذي يركز ديناميكيًا على الأجزاء ذات الصلة من المدخلات عند إنتاج المخرجات.انتباه فلاشخوارزمية انتباه محسنة تقلل من استخدام الذاكرة وتسرع تدريب المحولات والاستدلال.نموذج متعدد الوسائطنموذج يمكنه معالجة أو إنشاء أنواع بيانات متعددة مثل النص والصورة والصوت.الرسم البياني المعرفيهيكل بياني للكيانات والعلاقات المستخدمة للاستدلال أو الاسترجاع.

تعرف على المزيد في أدلةنا المجانية

Multilingual LLMs Multimodal Search Hard Parameter Sharing in Multi-Task Networks Attention Rollout and Head Pruning

انظر أيضا

Positional Encoding QLoRA RoPE (Rotary Positional Embeddings)DPO (Direct Preference Optimization)ALiBi Tree of Thoughts Sliding Window Attention ReAct