التاليالدليل التالي
ColBERT استرجاع التفاعل المتأخر
لغة الذكاء الاصطناعي
دليل اللغة AI
استرجاع الممر الكثيف
يتعلم استرجاع الممر الكثيف تمثيلات المتجهات للأسئلة والمقاطع ويرتب المقاطع حسب تشابهها.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
يمكن للمطابقة المكتسبة أن تسترجع إعادة الصياغة ذات الصلة مع تداخل محدود للكلمات، ولكن الملاءمة تعتمد على التدريب والتقييم بدلاً من الضمانات الدلالية.
الغوص العميق
يستخدم DPR، الذي قدمه Facebook AI في عام 2020، جهازي تشفير BERT منفصلين: جهاز تشفير الأسئلة وجهاز تشفير المرور. كل منها يحول النص إلى متجه كثيف ذو طول ثابت (غالبًا 768 بُعدًا). الملاءمة هي حاصل الضرب النقطي بين متجه السؤال ومتجه المقطع، لذا يصبح الاسترجاع بحثًا سريعًا عن أقرب جار عبر تضمينات المقطع المحسوبة مسبقًا. تم تدريب النموذج بهدف متباين: سحب متجه المقطع الأيمن بالقرب من السؤال ودفع المتجهات الخاطئة بعيدًا، باستخدام السلبيات المجمعة بالإضافة إلى السلبيات الصعبة المستخرجة من BM25. في معايير ضمان الجودة ذات المجال المفتوح مثل Natural Questions، تغلبت DPR على BM25 المهيمن منذ فترة طويلة بهوامش كبيرة، مما يدل على أن المطابقة الدلالية المستفادة يمكن أن تتفوق على البحث عن الكلمات الرئيسية للإجابة على الأسئلة.
التنفيذ في العالم الحقيقي
أنظمة الإجابة على الأسئلة ذات المجال المفتوح التي تسحب مقاطع ويكيبيديا الداعمة قبل أن يكتب ماجستير إدارة الأعمال الإجابة
البحث عن مستندات المؤسسة حيث يطرح الموظفون أسئلة طبيعية ويحصلون على الفقرات ذات الصلة حتى بدون كلمات رئيسية محددة
تقوم روبوتات دعم العملاء باسترداد مقالة مركز المساعدة الصحيحة من شكوى معاد صياغتها
تعمل روبوتات الدردشة المعززة على الاسترجاع على ترسيخ الاستجابات في قاعدة معرفية خاصة لتقليل الهلوسة
مستقبل استرجاع الممر الكثيف
يدعم الاسترجاع الكثيف الآن معظم خطوط أنابيب توليد الاسترجاع المعزز التي تغذي نماذج اللغات الكبيرة. تتجه الأبحاث نحو الأنظمة الهجينة التي تدمج النتائج الكثيفة والمعجمية، ونماذج التفاعل المتأخر مثل ColBERT التي تحتفظ بمتجهات لكل رمز من أجل مطابقة أدق، والتضمينات المضبوطة للتعليمات التي تتكيف مع العديد من المهام. توقع وجود برامج تشفير أرخص ومتعددة اللغات وذات سياق أطول، بالإضافة إلى تدريب مشترك أكثر إحكامًا للمستردين مع المولدات التي تخدمها.
وضعها موضع التنفيذ
لماذا يهم
- السرعة والحجم. يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
- الوصول والوصول. فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
- قرارات أوضح. يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
احترس من
- يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
- يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
- قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
الخطوات التالية
- حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
- استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
- احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
- تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
خذ اختبار استرجاع الممر الكثيف
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو استرجاع الممر الكثيف؟
يتعلم استرجاع الممر الكثيف تمثيلات المتجهات للأسئلة والمقاطع ويرتب المقاطع حسب تشابهها. يمكن للمطابقة المكتسبة أن تسترجع إعادة الصياغة ذات الصلة مع تداخل محدود للكلمات، ولكن الملاءمة تعتمد على التدريب والتقييم بدلاً من الضمانات الدلالية.
كيف يحدد استرجاع الممر الكثيف المقاطع التي تطابق الاستعلام؟
يقوم DPR بتعيين كل من الاستعلامات والمقاطع في متجهات كثيفة ويقيس مدى ملاءمتها من خلال تشابهها (المنتج النقطي)، مما يلتقط المعنى بدلاً من تداخل الكلمات.
يستخدم DPR بنية "التشفير الثنائي". ماذا يعني ذلك؟
يحتوي جهاز التشفير الثنائي على أجهزة تشفير مستقلة للأسئلة والمقاطع، لذلك يمكن حساب متجهات المقطع مسبقًا وفهرستها مسبقًا.
لماذا يمكن حساب متجهات المرور مسبقًا في DPR؟
نظرًا لأن برنامج تشفير المقطع لا يعتمد على الاستعلام، يمكن حساب جميع عمليات تضمين المقطع مسبقًا وتخزينها، مما يترك فقط الاستعلام ليتم تشفيره في وقت البحث.
ما هي الحيلة التدريبية التي تتيح لـ DPR توليد العديد من الأمثلة السلبية بتكلفة زهيدة؟
تتعامل السلبيات المجمعة مع المقاطع الأخرى في دفعة صغيرة على أنها سلبية لسؤال معين، مما يؤدي إلى إنتاج العديد من الأزواج المتناقضة بكفاءة.
ما هو عدم تطابق المفردات الذي يمكن أن تكون تمثيلات DPR المستفادة به مفيدة مقارنة بالمطابقة المعجمية وحدها؟
يمكن أن تدعم التمثيلات المستفادة مطابقة إعادة الصياغة، لكن الاسترجاع الكثيف لا يتفوق على الاسترجاع المعجمي بشكل عام.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع