بقایا نیٹ ورکس
بقایا نیٹ ورکس (ResNets) گہرے عصبی نیٹ ورکس ہیں جو 'سکپ کنکشن' کو شامل کرتے ہیں جس سے تہوں کو مکمل تبدیلیوں کے بجائے چھوٹی ایڈجسٹمنٹ سیکھنے دیتی ہے۔
جائزہ
This simple trick made it possible to train networks hundreds of layers deep, sparking a leap in image recognition accuracy.
گہرا غوطہ
ResNets سے پہلے، بہت سی تہوں کو اسٹیک کرنے سے متضاد طور پر نیٹ ورک بدتر کارکردگی کا مظاہرہ کرتے ہیں، یہاں تک کہ تربیتی ڈیٹا پر بھی، ایک مسئلہ جسے انحطاط کہتے ہیں۔ 2015 میں، Microsoft محققین Kaiming He اور ساتھیوں نے بقایا بلاک متعارف کرایا: تہوں کے ڈھیر سے براہ راست آؤٹ پٹ H(x) پیدا کرنے کے لیے کہنے کے بجائے، انہوں نے اسے بقایا F(x) = H(x) - x سیکھنے دیا، پھر شارٹ کٹ کے ذریعے اصل ان پٹ x کو واپس شامل کیا۔ اگر ایک پرت کی ضرورت نہیں ہے، تو وہ کچھ نہیں کرنا سیکھ سکتی ہے (F(x) = 0)۔ ResNet-152 نے 2015 کا امیج نیٹ مقابلہ تقریباً 3.6 فیصد کی ٹاپ-5 غلطی کے ساتھ جیتا، جس نے انسانی سطح کے تخمینوں کو مات دے دی، اور اس کا فن تعمیر پتہ لگانے، سیگمنٹیشن، اور میڈیکل امیجنگ کے لیے ایک بنیادی ریڑھ کی ہڈی بن گیا۔
تکنیکی بصیرت
سکیپ کنکشن ہر بلاک کے کام کو y = F(x) + x میں بدل دیتا ہے۔ بیک پروپیگیشن کے دوران، میلان شناخت کے شارٹ کٹ سے بغیر کسی تبدیلی کے بہتا ہے، لہذا یہ سینکڑوں تہوں میں بھی صفر کے قریب ختم نہیں ہو سکتا۔ یہ گہرے ڈھیروں کو قابل تربیت رکھتا ہے۔ شناختی شارٹ کٹ میں کوئی اضافی پیرامیٹرز شامل نہیں ہوتے ہیں۔ صرف اس صورت میں جب ان پٹ اور آؤٹ پٹ سائز مختلف ہوں ایک چھوٹا پروجیکشن (1x1 کنوولوشن) اضافے سے پہلے طول و عرض کو ایڈجسٹ کرتا ہے۔
اسٹریٹجک اثر
رفتار اور پیمانہ
بصری AI پیمانے پر معائنہ، پتہ لگانے، اور ٹیگنگ کے کاموں کو خودکار کر سکتا ہے۔
Build choices
تخلیقی ٹیمیں کم دستی ترمیم کے ساتھ تصورات کو تیزی سے پروٹو ٹائپ کر سکتی ہیں۔
Team and workflow
آپریشنز امیج اور ویڈیو سگنلز کا استعمال کر سکتے ہیں جن پر کارروائی کرنا پہلے مشکل تھا۔
بقایا نیٹ ورکس کا مستقبل
بقایا کنکشن اب قریب قریب آفاقی ہیں: ٹرانسفارمرز، ڈفیوژن ماڈلز، اور بڑے لینگوئج ماڈل سبھی ان کا استعمال بہت گہرے ڈھیروں کی تربیت کو مستحکم کرنے کے لیے کرتے ہیں۔ پری ایکٹیویشن ResNets، ResNeXt کے گروپ شدہ راستے، اور بقیہ خیالات کو نارملائزیشن سے پاک تربیت کے ساتھ ملانے جیسے مختلف قسموں پر تحقیق جاری ہے۔ توقع کریں کہ بنیادی اسکیپ کنکشن اصول پہلے سے طے شدہ بلڈنگ بلاک کے طور پر برقرار رہے گا، یہاں تک کہ اردگرد کے فن تعمیر خالص کنوولوشنز سے ہٹ کر توجہ اور ہائبرڈ ڈیزائن کی طرف بڑھ رہے ہیں۔
حقیقی دنیا کا نفاذ
امیج نیٹ کی درجہ بندی کے بیک بونز (ResNet-50, ResNet-101) کو ٹرانسفر لرننگ کے لیے پہلے سے تربیت یافتہ فیچر ایکسٹریکٹر کے طور پر استعمال کیا جاتا ہے۔
ResNet پر مبنی انکوڈرز کا استعمال کرتے ہوئے ریڈیولاجی اور پیتھالوجی امیجز میں ٹیومر اور زخم کا پتہ لگانا
آبجیکٹ کا پتہ لگانے اور مثال کے طور پر تقسیم کرنے والے فریم ورک جیسے تیز R-CNN اور ماسک R-CNN جو ResNet بیک بون استعمال کرتے ہیں
سیلف ڈرائیونگ پرسیپشن پائپ لائنز جو پیدل چلنے والوں، گاڑیوں اور کیمرے کے فریموں سے اشارے کی درجہ بندی کرتی ہیں
خطرات اور گارڈریلز
تصویر کے حقوق اور رضامندی قانونی خطرات بن سکتے ہیں اگر ثبوت واضح نہ ہو۔
ماڈل کی کارکردگی روشنی، ڈیموگرافکس اور ماحول میں مختلف ہو سکتی ہے۔
جب تک اعتماد کی حدوں کی نگرانی نہ کی جائے غلط مثبتات پر کسی کا دھیان نہیں جا سکتا۔
نفاذ کا روڈ میپ
درستگی، یاد کرنے، اور غلطی کے اخراجات کے لیے قبولیت کے معیار کی وضاحت کریں۔
اعداد و شمار کے ساتھ ٹیسٹ کریں جو حقیقی پیداوار کے حالات سے میل کھاتا ہے۔
کم اعتماد یا زیادہ اثر والی پیشین گوئیوں کے لیے انسانی جائزہ شامل کریں۔
کیمرہ یا ڈیٹاسیٹ کی تبدیلیوں کے بعد ماڈل ڈرفٹ کو ٹریک کریں اور دوبارہ تصدیق کریں۔
دریافت کرتے رہیں
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Residual Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
اگلا گائیڈ
فیچر پیرامڈ نیٹ ورکس
اکثر پوچھے گئے سوالات
What is Residual Networks?
بقایا نیٹ ورکس (ResNets) گہرے عصبی نیٹ ورکس ہیں جو 'سکپ کنکشن' کو شامل کرتے ہیں جس سے تہوں کو مکمل تبدیلیوں کے بجائے چھوٹی ایڈجسٹمنٹ سیکھنے دیتی ہے۔ اس سادہ چال نے نیٹ ورکس کو سینکڑوں تہوں کی گہرائی میں تربیت دینا ممکن بنایا، جس سے تصویر کی شناخت کی درستگی میں چھلانگ لگ گئی۔
بقایا کنکشن نے خاص طور پر کون سا مسئلہ حل کیا؟
ResNets سے پہلے، مزید پرتیں شامل کرنے سے تربیتی ڈیٹا پر بھی درستگی کم ہو جاتی ہے۔ کنکشنز کو چھوڑ دیں، تہوں کو آپٹمائز کرنا آسان بنا کر اس کو ٹھیک کر دیں۔
ایک بقایا بلاک اصل میں اس کی پیداوار کے طور پر کیا شمار کرتا ہے؟
ایک بقایا بلاک آؤٹ پٹ y = F(x) + x، سیکھے ہوئے بقایا کو سکپ کنکشن کے ذریعے ان پٹ میں شامل کرتا ہے۔
ٹریننگ کے دوران کنکشن کو چھوڑنے سے گراڈینٹ کی مدد کیوں ہوتی ہے؟
شناختی شارٹ کٹ گریڈیئنٹس کو بغیر کسی تبدیلی کے پیچھے کی طرف بہنے کا ایک سیدھا راستہ فراہم کرتا ہے، بہت گہرے ڈھیروں میں غائب ہونے والے گریڈینٹ کے مسئلے کو روکتا ہے۔
2015 سے جیتنے والے ResNet ماڈل میں تقریباً کتنی پرتیں تھیں؟
ResNet-152، 152 تہوں کے ساتھ، 2015 ImageNet مقابلہ جیت گیا، یہ ظاہر کرتا ہے کہ بہت گہرے نیٹ ورکس کو اب کامیابی سے تربیت دی جا سکتی ہے۔
اگر ایک بقایا بلاک کی پرتیں F(x) = 0 سیکھتی ہیں، تو بلاک کیا کرتا ہے؟
جب F(x) = 0، آؤٹ پٹ صرف x ہے، تو بلاک ایک شناختی نقشہ بن جاتا ہے۔ یہ اضافی تہوں کو بے ضرر بنا دیتا ہے اگر ان کی ضرورت نہ ہو۔