درمیانی اثر میں کھو گیا۔
'وسط میں کھوئے ہوئے' کا اثر زبان کے ماڈلز کا رجحان ہے کہ وہ معلومات کو بہترین طریقے سے استعمال کرتا ہے جب یہ ایک طویل ان پٹ کے آغاز یا آخر میں ظاہر ہوتی ہے، جبکہ درمیان میں دفن حقائق کو نظر انداز کرتے ہیں۔
جائزہ
It matters because it limits how much we can trust long-context models with retrieved documents.
گہرا غوطہ
اسٹینفورڈ کے لیو اور ساتھیوں کے ذریعہ 2023 کے مطالعے میں شناخت کیا گیا، اس کا اثر اس وقت ظاہر ہوا جب ماڈلز کو بہت سی دستاویزات دی گئیں اور ان سے جواب دینے کو کہا گیا جس میں کلیدی حقیقت موجود تھی۔ درستگی نے U کے سائز کا منحنی خطوط تشکیل دیا: سب سے زیادہ جب متعلقہ گزرنے پرامپٹ کے شروع یا آخر میں بیٹھتا ہے، اور جب یہ درمیان میں بیٹھتا ہے تو نمایاں طور پر کم ہوتا ہے۔ یہ ان ماڈلز کے لیے بھی منعقد ہوتا ہے جو طویل سیاق و سباق کے قابل ہوتے ہیں۔ بازیافت میں اضافہ شدہ نسل کے لیے اس کا اثر بہت تیز ہے: درجنوں حصئوں کو پرامپٹ میں بھرنا اس بات کی ضمانت نہیں دیتا کہ ماڈل انہیں یکساں طور پر پڑھتا ہے۔ پوزیشن، نہ صرف موجودگی، شکل دیتی ہے کہ آیا کوئی ماڈل کسی حقیقت کو پورا کرتا ہے۔ کام نے لمبے سیاق و سباق کو موثر استعمال کے سوال کے طور پر دوبارہ ترتیب دیا، کھڑکی کے کچے سائز کے نہیں۔
تکنیکی بصیرت
U-شکل والا وکر ممکنہ طور پر اس بات سے پیدا ہوتا ہے کہ توجہ اور پوزیشنی انکوڈنگز فوکس کو کیسے تقسیم کرتے ہیں۔ پرائمسی اور ریسنسی کے تعصبات، جو جزوی طور پر تربیتی ڈیٹا کے ڈھانچے اور پوزیشنی اسکیموں سے وراثت میں ملے ہیں، ابتدائی اور دیر سے آنے والے ٹوکن کو اضافی وزن دیتے ہیں۔ کچھ ڈیکوڈر آرکیٹیکچرز ابتدائی ٹوکن معلومات کو تہوں کے ذریعے مضبوطی سے پھیلاتے ہیں۔ خالص نتیجہ یہ ہے کہ درمیانی پوزیشنوں کو کم توجہ دی جاتی ہے، اس لیے وہاں دیے گئے ایک درست جواب کو مؤثر طریقے سے نظر انداز کیا جا سکتا ہے یہاں تک کہ سیاق و سباق میں مکمل طور پر موجود ہوں۔
اسٹریٹجک اثر
رفتار اور پیمانہ
زبان کے کام کے بہاؤ مستقل مزاجی کی قربانی کے بغیر تیزی سے آگے بڑھ سکتے ہیں۔
رسائی اور رسائی
یہ زبانوں اور مواصلاتی طرزوں تک رسائی کو بڑھاتا ہے۔
واضح فیصلے
ٹیمیں فیصلے پر زیادہ وقت گزار سکتی ہیں جبکہ آٹومیشن تکرار کو سنبھالتی ہے۔
درمیانی اثر میں کھوئے ہوئے کا مستقبل
محققین توجہ کی تبدیلیوں، پوزیشن سے آگاہی کی تربیت، اور ہوشیار بازیافت کے ساتھ اثر کو حل کر رہے ہیں جو پرامپٹ کے کناروں کے سب سے زیادہ متعلقہ حصئوں کو دوبارہ ترتیب دیتا ہے۔ ایویلیوایشن سویٹس میں اب 'گھاس کے اسٹیک میں سوئی' شامل ہے تاکہ مؤثر سیاق و سباق کی پیمائش کی جا سکے۔ جیسے جیسے فن تعمیر میں بہتری آتی ہے، U-کرو چپٹا ہوتا جا رہا ہے، لیکن پریکٹیشنرز ایسی پائپ لائنوں کو ڈیزائن کرتے رہیں گے جو اہم ثبوت فراہم کرتی ہیں جہاں ماڈلز یکساں توجہ پر بھروسہ کرنے کے بجائے حقیقت میں نظر آتے ہیں۔
حقیقی دنیا کا نفاذ
ایک RAG سسٹم 20 دستاویزات کو بازیافت کرتا ہے لیکن جواب سے محروم رہتا ہے کیونکہ یہ 20 میں سے 10 کے حصے میں آتا ہے۔
انجینئرز تلاش کے نتائج کو دوبارہ ترتیب دیتے ہیں تاکہ سب سے زیادہ متعلقہ حصہ کو پرامپٹ میں پہلے یا آخر میں رکھا جا سکے۔
ایک طویل دستاویز کا خلاصہ کنٹریکٹ کے وسط میں ظاہر ہونے والی کلیدی تفصیلات سے کم وزن رکھتا ہے۔
ایک 'گھاس کے اسٹیک میں سوئی' بینچ مارک ایک حقیقت کو مختلف گہرائیوں میں چھپاتا ہے تاکہ ماڈل کی پوزیشنی درستگی کو چارٹ کیا جا سکے۔
خطرات اور گارڈریلز
گمراہ شدہ حقائق خاموشی سے رپورٹس، سپورٹ فلو، یا تحقیقی نتائج درج کر سکتے ہیں۔
فوری حساسیت اسی طرح کی درخواستوں میں متضاد نتائج پیدا کر سکتی ہے۔
اگر رسائی کے کنٹرول کمزور ہیں تو حساس ٹیکسٹ ڈیٹا کو بے نقاب کیا جا سکتا ہے۔
نفاذ کا روڈ میپ
رول آؤٹ سے پہلے آؤٹ پٹ فارمیٹ، ٹون اور معیار کے معیارات کی وضاحت کریں۔
جب بھی درستگی اہمیت رکھتی ہے تو بھروسہ مند ذرائع کے ساتھ زمینی جوابات۔
ہائی اسٹیک آؤٹ پٹس کے لیے ایک انسانی جائزہ چیک پوائنٹ رکھیں۔
ناکامی کے نمونوں کو ٹریک کریں اور پرامپٹس یا ورک فلو کو باقاعدگی سے دوبارہ تربیت دیں۔
دریافت کرتے رہیں
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Lost in the Middle Effect quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
اگلا گائیڈ
صوتی اثرات جنرل
اکثر پوچھے گئے سوالات
What is Lost in the Middle Effect?
'وسط میں کھوئے ہوئے' کا اثر زبان کے ماڈلز کا رجحان ہے کہ وہ معلومات کو بہترین طریقے سے استعمال کرتا ہے جب یہ ایک طویل ان پٹ کے آغاز یا آخر میں ظاہر ہوتی ہے، جبکہ درمیان میں دفن حقائق کو نظر انداز کرتے ہیں۔ یہ اہمیت رکھتا ہے کیونکہ یہ اس بات کو محدود کرتا ہے کہ ہم بازیافت شدہ دستاویزات کے ساتھ طویل سیاق و سباق کے ماڈلز پر کتنا اعتماد کر سکتے ہیں۔
کلیدی حقیقت ایک طویل اشارے کے ذریعے منتقل ہونے پر درستگی کیا شکل اختیار کرتی ہے؟
درستگی سب سے زیادہ ہوتی ہے جب متعلقہ معلومات شروع یا اختتام کے قریب ہوتی ہے اور درمیان میں ڈوب جاتی ہے، جس سے U شکل بنتی ہے۔
کھوئے ہوئے درمیانی اثر کا دوبارہ حاصل کرنے کے لیے بڑھی ہوئی نسل کا کیا مطلب ہے؟
صرف ایک حوالہ شامل کرنا کافی نہیں ہے۔ جہاں یہ پرامپٹ میں بیٹھتا ہے اس کو تبدیل کرتا ہے کہ ماڈل کے اسے استعمال کرنے کا کتنا امکان ہے۔
سوچا جاتا ہے کہ کون سے تعصبات اثر کو آگے بڑھاتے ہیں؟
پہلی اور آخری پوزیشنوں پر اضافی توجہ، پوزیشنی انکوڈنگز اور تربیتی ڈھانچے سے منسلک، U-کرو پیدا کرتی ہے۔
کیا طویل سیاق و سباق کے ماڈل خود بخود اس اثر سے بچتے ہیں؟
مطالعہ نے طویل سیاق و سباق کے طور پر مارکیٹ کیے گئے ماڈلز میں اثر پایا، ونڈو کا سائز یکساں استعمال کو یقینی نہیں بناتا۔
کون سا عملی قدم پائپ لائن میں اثر کو روکنے میں مدد کرتا ہے؟
سب سے زیادہ متعلقہ شواہد کو شروع یا اختتام کے قریب رکھنا اسے اس کے ساتھ سیدھا کرتا ہے جہاں ماڈل سب سے زیادہ مضبوطی سے حاضر ہوتا ہے۔