التأريض والاقتباسات
يربط التأريض إجابات الذكاء الاصطناعي بمستندات مصدر محددة بدلاً من السماح له بالإجابة من الذاكرة وحدها، وتظهر الاستشهادات بالضبط المصادر التي تدعم كل ادعاء.
نظرة عامة
Together they make answers verifiable and dramatically reduce confident-sounding fabrications.
الغوص العميق
تولد النماذج اللغوية الكبيرة نصًا سلسًا من الأنماط التي تم تعلمها، مما يعني أنها تستطيع تقديم ادعاءات كاذبة بثقة تامة. يعمل التأريض على إصلاح هذه المشكلة عن طريق تغذية النموذج بمواد المصدر الحقيقي في وقت الإجابة، والتي يتم استردادها عادةً من فهرس البحث أو قاعدة المعرفة أو المستندات التي تم تحميلها، وتوجيهه للإجابة من تلك المادة فقط. الاستشهادات هي الإيصالات: امتدادات من الإجابة مرتبطة مرة أخرى بالمقطع الدقيق الذي يدعمها، غالبًا على شكل علامات حواشي سفلية أو مقتطفات مميزة. يعد هذا الاقتران بمثابة العمود الفقري لجيل الاسترجاع المعزز (RAG) ومساعدي أسلوب البحث. إذا تم ذلك بشكل جيد، يمكن للمستخدم النقر فوق الاقتباس، وقراءة الجملة الأصلية، والتأكد من أن النموذج لم يخترع المطالبة. وعلى النقيض من ذلك، لا يمكن التحقق من الإجابات التي لا أساس لها من حيث التصميم.
البصيرة الفنية
يقوم المسار النموذجي بتضمين السؤال في المتجه، واسترداد المقاطع الأكثر تشابهًا من المتجه أو فهرس الكلمات الرئيسية، وإدراج تلك المقاطع في الموجه كسياق. يُطلب من النموذج أن يستشهد بمعرفات المرور المضمنة. يمكن لخطوة التحقق المنفصلة إعادة التحقق من أن كل نطاق مستشهد به يستلزم المطالبة بالفعل، وذلك باستخدام مطابقة السلسلة أو نموذج استلزام أصغر. تعرض الأنظمة الجيدة أيضًا إجابة "غير موجودة في المصادر" بدلاً من التخمين عندما لا يُرجع الاسترجاع أي شيء ذي صلة.
التأثير الاستراتيجي
السرعة والحجم
يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
الوصول والوصول
فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
قرارات أوضح
يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
مستقبل التأريض والاستشهادات
توقع أن تصبح الاستشهادات أكثر دقة، بحيث تشير إلى الجمل الدقيقة أو حتى البنود الفرعية بدلاً من المستندات الكاملة، مع إرفاق درجات الثقة. "التحقق من الإسناد" التلقائي الذي يتحقق من كل جملة مقابل مصدرها المستشهد به قبل أن ينتقل العرض من البحث إلى المنتجات. من المرجح أن تؤدي معايير المصدر المقروء آليًا، والضغط التنظيمي في الإعدادات القانونية والطبية والمالية، إلى جعل الإجابات التوليدية غير المستشهد بها غير مقبولة للاستخدام عالي المخاطر، مما يدفع التأريض من الميزة إلى التوقع الافتراضي.
التنفيذ في العالم الحقيقي
مساعد باحث قانوني يجيب على سؤال حول السوابق القضائية ويربط كل عبارة بالفقرة المحددة من الحكم المذكور
روبوت لدعم العملاء يجيب فقط من مقالات مركز المساعدة الخاصة بالشركة ويعرض المقالة المصدر بجانب كل رد
أداة من الأدبيات الطبية تلخص أدلة العلاج مع الحواشي السفلية التي تشير إلى ملخصات PubMed محددة
مساعد بحث مؤسسي عبر مواقع الويكي الداخلية يقتبس المستند الدقيق والقسم الذي يدعم كل إجابة
المخاطر والدرابزين
يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
خارطة طريق التنفيذ
حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Grounding and Citations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
الدرابزين واعتدال الإخراج
الأسئلة المتداولة
What is Grounding and Citations?
يربط التأريض إجابات الذكاء الاصطناعي بمستندات مصدر محددة بدلاً من السماح له بالإجابة من الذاكرة وحدها، وتظهر الاستشهادات بالضبط المصادر التي تدعم كل ادعاء. معًا يجعلون الإجابات قابلة للتحقق منها ويقللون بشكل كبير من الافتراءات التي تبدو واثقة.
ما هو الغرض الرئيسي من "تأريض" إجابة الذكاء الاصطناعي؟
يعمل التأريض على تغذية النموذج بمواد المصدر الحقيقية في وقت الإجابة ويطلب منه الإجابة من تلك المادة فقط، مما يجعل المطالبات قابلة للتحقق.
ما هو الدور الذي تلعبه الاستشهادات في النظام المؤرض؟
تعمل الاستشهادات كإيصالات، حيث تربط كل مطالبة بمقطع المصدر المحدد حتى يتمكن المستخدم من التحقق منها.
التأريض والاستشهادات هي العمود الفقري لأي تقنية شائعة؟
يقوم RAG باسترداد المقاطع ذات الصلة وإدراجها في الموجه حتى يتمكن النموذج من الإجابة من المصادر الحقيقية والاستشهاد بها.
في نظام مؤرض جيد التصميم، ماذا يجب أن يحدث إذا لم يجد الاسترجاع أي مصدر ذي صلة؟
يجيب النظام القوي "غير موجود في المصادر" بدلاً من اختلاق إجابة عندما لا يتم استرداد أي شيء ذي صلة.
لماذا تعتبر إجابات الذكاء الاصطناعي التي لا أساس لها من الصعب الوثوق بها عند الاستخدام عالي المخاطر؟
وبدون التأريض، لا يوجد مصدر للتحقق منه، لذلك لا يمكن التحقق من صحة الادعاءات بشكل مستقل.