کیا ہوا؟
محققین مقامی کشید کی تجویز پیش کرتے ہیں، ایک ایسا طریقہ جس میں ایک بلیک باکس AI ماڈل ہر استفسار کے نقطہ کے مطابق ایک باقاعدہ لکیری طالب علم کے ماڈل کے لیے استاد کے طور پر کام کرتا ہے۔ مقالے میں بتایا گیا ہے کہ یہ نقطہ نظر 17 بینچ مارک ڈیٹاسیٹس میں اساتذہ کی درستگی سے تقریباً مماثلت رکھتا ہے جبکہ اس سے کم، مقامی طور پر قابل تشریح ماڈلز تیار کیے جاتے ہیں۔
24 اگست کو arXiv کو جمع کرائے گئے ایک مقالے میں بلیک باکس AI سسٹمز سے پیشین گوئیوں کی تشریح کے لیے لوکل ڈسٹلیشن نامی طریقہ تجویز کیا گیا ہے۔ مصنفین جدید ماڈلز پر توجہ مرکوز کرتے ہیں جیسے ٹیبلر فاؤنڈیشن ماڈلز اور گریڈیئنٹ بوسٹڈ جوڑیاں، جنہیں وہ کلاسیکی طریقوں سے ممکنہ طور پر زیادہ درست قرار دیتے ہیں لیکن اس کے بارے میں استدلال کرنا مشکل ہے۔ ان کا مجوزہ نظام ہر استفسار کے نقطہ کے قریب ایک علیحدہ، باقاعدہ لکیری "طالب علم" ماڈل بناتا ہے، جس میں بلیک باکس سسٹم "استاد" کے طور پر کام کرتا ہے۔
طریقہ اس بات کی وضاحت کرتا ہے کہ نتیجہ پر منحصر طریقے سے مقامی کے طور پر کیا شمار ہوتا ہے۔ یہ تربیتی مشاہدات کو بڑھاتا ہے جن کے پیش گوئی شدہ نتائج اصل خصوصیت کی جگہ میں صرف فاصلے پر بھروسہ کرنے کے بجائے، بیان کردہ پیشین گوئی سے ملتے جلتے ہیں۔ اس میں استفسار کے مقام پر ٹیچر کی پیشین گوئی بھی شامل ہے بطور وزنی چھدم مشاہدہ، بلیک باکس ماڈل کے آؤٹ پٹ پر مقامی لکیری فٹ کو اینکر کرنا۔ ذریعہ کا کہنا ہے کہ اس چھدم مشاہدے کے وزن کا اندازہ ڈیٹا سے لگایا گیا ہے۔
تشریح کے لیے، مصنفین مقامی مقصد میں تھوڑی مقدار میں گاؤشیائی رینڈمائزیشن کا اضافہ کرتے ہیں اور طالب علم کے ماڈل کو بار بار درست کرتے ہیں۔ وہ خصوصیت کے انتخاب کی تعدد کا استعمال کرتے ہوئے ان خصوصیات کی نشاندہی کرتے ہیں جو کسی خاص استفسار کے مقام پر قابل اعتماد طور پر ظاہر ہوتی ہیں۔ وہ پورے ڈیٹا میں مستحکم ذیلی گروپس کی شناخت کے لیے بے ترتیب فٹ کو بھی کلسٹر کرتے ہیں۔ لیسو جرمانے کے تحت، مقالے کا کہنا ہے کہ یہ ثابت کرتا ہے کہ تربیتی ردعمل کی چھوٹی چھوٹی پریشانیوں کے تحت فیچر سلیکشن کے نتیجے میں ہونے والے امکانات مستحکم رہتے ہیں۔
17 بینچ مارک ڈیٹاسیٹس میں، مصنفین رپورٹ کرتے ہیں کہ مقامی کشید AI استاد کی درستگی سے تقریباً میل کھاتا ہے جبکہ ہر ٹیسٹ پوائنٹ کے لیے ایک ویرل لکیری ماڈل تیار کرتا ہے۔ اعلی جہتی کینسر کے جین اظہار کی مثال میں، فریم ورک مریضوں کے ذیلی گروپوں کی شناخت کرتا ہے جن کے مقامی ماڈل مختلف جین استعمال کرتے ہیں۔ مصنفین کا کہنا ہے کہ اس قسم کی متفاوتیت عالمی لکیری ماڈل کے لیے پوشیدہ ہے اور بلیک باکس ماڈل میں براہ راست ظاہر ہونا مشکل ہے۔ ماخذ خلاصہ میں انفرادی بینچ مارک سکور، ڈیٹا سیٹ کے نام، یا طبی نتائج فراہم نہیں کرتا ہے۔
یہ کیوں اہمیت رکھتا ہے۔
یہ طریقہ ہائی اسٹیک AI میں ایک مرکزی مسئلہ کو نشانہ بناتا ہے: ایک نظام یہ واضح کیے بغیر درست پیش گوئی کر سکتا ہے کہ یہ کسی خاص نتیجے پر کیوں پہنچا ہے۔ مقامی وضاحتیں صارفین کو یہ جانچنے میں مدد کر سکتی ہیں کہ انفرادی پیشین گوئی کے لیے کون سی خصوصیات اہمیت رکھتی ہیں اور کیا مختلف گروپس مختلف وجوہات کی بنا پر فیصلے وصول کرتے ہیں۔
تشریح خاص طور پر نتیجہ خیز ہوتی ہے جب AI پیشن گوئی کسی شخص کے علاج، اہلیت، خطرے کی تشخیص، یا خدمات تک رسائی کو متاثر کر سکتی ہے۔ ایک عالمی وضاحت کا مطلب یہ ہو سکتا ہے کہ ایک ہی متغیر ہر فیصلے کو چلاتا ہے، یہاں تک کہ جب کوئی ماڈل ڈیٹا کے مختلف علاقوں میں مختلف طریقے سے برتاؤ کرتا ہے۔ کاغذ کا مقامی نقطہ نظر ہر پیشین گوئی کے ارد گرد ایک ویرل وضاحت کو فٹ کر کے اس تغیر کو بے نقاب کرنے کے لیے ڈیزائن کیا گیا ہے۔
مجوزہ ڈھانچہ تجزیہ کاروں کو عام خصوصیت کی اہمیت کی درجہ بندی کے مقابلے میں معائنہ کرنے کے لیے زیادہ مخصوص چیز دے سکتا ہے۔ ایک مقامی لکیری ماڈل ایک سوال کے نقطہ کے قریب منتخب خصوصیات کی سمت اور رشتہ دار شراکت کی نشاندہی کر سکتا ہے، جبکہ بار بار کی اصلاح ان خصوصیات کو الگ کرنے کا ایک طریقہ فراہم کرتی ہے جو صرف فٹنگ کے عمل میں چھوٹی تبدیلیوں کی وجہ سے ظاہر ہوتی ہیں۔ یہ طریقہ کار کے ڈیزائن اور رپورٹ شدہ تجربات کے بارے میں دعوے ہیں، اس بات کا ثبوت نہیں کہ وضاحتیں خود بخود درست ہیں۔
ذیلی گروپ کا نتیجہ ممکنہ طور پر مفید ہے کیونکہ یہ تعبیر کو ماڈل ہیٹروجنیٹی سے جوڑتا ہے۔ کینسر کے جین کے اظہار کی مثال میں، کاغذ رپورٹ کرتا ہے کہ مختلف مریضوں کے ذیلی گروپ مختلف جینوں کا استعمال کرتے ہوئے مقامی ماڈلز سے وابستہ تھے۔ اگر نقل کیا جائے تو اس طرح کے نتائج محققین کو یہ تحقیق کرنے میں مدد کر سکتے ہیں کہ آیا کوئی AI نظام اپنی پیشین گوئیوں کو ایک ہی یکساں اصول کے طور پر ماننے کے بجائے ڈیٹاسیٹ کے مختلف حصوں میں الگ الگ نمونوں پر انحصار کر رہا ہے۔
یہ طریقہ درستگی اور شفافیت کے درمیان ایک عملی تجارت کو بھی حل کرتا ہے۔ ایک پیچیدہ ماڈل کو ایک عالمی لکیری تخمینہ کے ساتھ تبدیل کرنے سے وفاداری کم ہو سکتی ہے، جبکہ صرف بلیک باکس پر انحصار انفرادی فیصلوں کو آڈٹ کرنا مشکل بنا سکتا ہے۔ مقامی کشید ہر استفسار کے قریب استاد کے پیشین گوئی کے رویے کو محفوظ رکھنے کی کوشش کرتا ہے جبکہ ایک چھوٹا ماڈل پیش کرتا ہے جس کا لوگ معائنہ کر سکتے ہیں۔ ماخذ اس بات کا تعین نہیں کرتا ہے کہ آیا یہ تجارت ریئل ٹائم سسٹمز، ریگولیٹڈ ورک فلو، یا ایسے فیصلوں میں ہے جس میں انسانی نتائج شامل ہیں۔
انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔
اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
آگے کیا دیکھنا ہے۔
کام ایک arXiv پری پرنٹ ہے، اور ماخذ ہم مرتبہ جائزہ، آزاد نقل، تعیناتی، یا آپریشنل ترتیبات میں کارکردگی کو قائم نہیں کرتا ہے۔ اہم کھلے سوالات میں شامل ہیں کہ اعداد و شمار میں ہونے والی تبدیلیوں کے تحت وضاحتیں کتنی مستحکم رہتی ہیں، طریقہ کار رپورٹ کردہ بینچ مارکس سے آگے کتنا اچھا کام کرتا ہے، اور آیا صارف مقامی ماڈلز کی صحیح تشریح کرتے ہیں۔
فوری حد کام کی واضح حیثیت ہے۔ ماخذ کاغذ کی شناخت ایک arXiv جمع کرانے کے طور پر کرتا ہے اور مصنفین کے ریاضیاتی اور تجرباتی دعووں کی اطلاع دیتا ہے، لیکن یہ ہم مرتبہ جائزہ، آزاد نقل، تمام بڑے تشریحی طریقوں کے ساتھ موازنہ، یا لائیو فیصلہ سازی کے نظام میں استعمال کی دستاویز نہیں کرتا ہے۔ اس لیے رپورٹ شدہ نتائج کو ابتدائی تحقیقی نتائج کے طور پر سمجھا جانا چاہیے۔
مستقبل کے جائزوں میں یہ جانچنا چاہیے کہ آیا مقامی وضاحتیں اس وقت مستحکم ہوتی ہیں جب ڈیٹا کی بنیادی تقسیم میں تبدیلی آتی ہے، جب خصوصیات آپس میں منسلک ہوتی ہیں، اور جب استاد کے ماڈل کو دوبارہ تربیت دی جاتی ہے۔ مقالے کے استحکام کا نتیجہ اس کے بیان کردہ بے ترتیب لیسو سیٹ اپ کے تحت تربیتی ردعمل کی چھوٹی پریشانیوں سے متعلق ہے۔ جو بذات خود گمشدہ متغیرات، ڈسٹری بیوشن شفٹ، پیمائش کی خرابی، یا ماڈل آرکیٹیکچر میں تبدیلیوں کے لیے مضبوطی قائم نہیں کرتا ہے۔
کینسر کی مثال بھی محتاط پیروی کی ضمانت دیتی ہے۔ مختلف مقامی ماڈلز کے ذریعے استعمال ہونے والے جینوں کی شناخت سے یہ ثابت نہیں ہوتا ہے کہ وہ جین مریض کے نتیجے کا باعث بنتے ہیں یا اس کے نتیجے میں آنے والے ذیلی گروپ طبی لحاظ سے معنی خیز ہیں۔ ماخذ کلینیکل توثیق، ممکنہ جانچ، علاج کے اثرات، یا اس بات کے ثبوت کی اطلاع نہیں دیتا ہے کہ یہ طریقہ طبی فیصلوں کو بہتر بناتا ہے۔ ان نامعلوم افراد کو اس سے پہلے کہ نقطہ نظر ذمہ دارانہ طور پر مریض کی دیکھ بھال کو مطلع کر سکتا ہے اہمیت رکھتا ہے۔
عملی اپنانے کا انحصار اس بات پر ہوگا کہ آیا مطلوبہ صارف مقامی ماڈلز کو بلیک باکس ٹیچر کے کام کرنے کے مکمل اکاؤنٹ کے لیے غلط سمجھے بغیر سمجھ سکتے ہیں اور چیلنج کرسکتے ہیں۔ اہم تفصیلات جو ماخذ میں فراہم نہیں کی گئی ہیں ان میں کمپیوٹیشنل لاگت، کتنی خصوصیات عام طور پر فالتو جرمانے سے بچ جاتی ہیں، وضاحتیں آسان بنیادی خطوط سے کیسے موازنہ کرتی ہیں، اور جب مقامی فٹس غیر مستحکم یا متضاد ہوں تو کیا ہوتا ہے۔ یہ سوالات اس بات کا تعین کریں گے کہ آیا مقامی کشید ایک مفید آڈٹ ٹول بن جاتی ہے یا بنیادی طور پر ایک تحقیقی تکنیک بنی رہتی ہے۔