الشبكات المتبقية
الشبكات المتبقية (ResNets) هي شبكات عصبية عميقة تضيف "تخطي الاتصالات" مما يسمح للطبقات بتعلم تعديلات صغيرة بدلاً من التحويلات الكاملة.
نظرة عامة
This simple trick made it possible to train networks hundreds of layers deep, sparking a leap in image recognition accuracy.
الغوص العميق
قبل شبكات ResNets، أدى تكديس العديد من الطبقات إلى جعل أداء الشبكات أسوأ، حتى في بيانات التدريب، وهي مشكلة تسمى التدهور. في عام 2015، قدم باحثو Microsoft كايمينغ هي وزملاؤه الكتلة المتبقية: بدلاً من مطالبة مجموعة من الطبقات بإنتاج مخرجات H(x) مباشرة، سمحوا لها بتعلم المتبقي F(x) = H(x) - x، ثم أضافوا المدخلات الأصلية x مرة أخرى عبر اختصار. إذا لم تكن هناك حاجة إلى طبقة، فيمكنها ببساطة أن تتعلم عدم القيام بأي شيء (F(x) = 0). فاز ResNet-152 في مسابقة ImageNet لعام 2015 بنسبة خطأ أعلى 5 بلغت حوالي 3.6 بالمائة، متجاوزًا التقديرات على المستوى البشري، وأصبحت بنيته التحتية العمود الفقري الأساسي للكشف والتجزئة والتصوير الطبي.
البصيرة الفنية
يحول اتصال التخطي مهمة كل كتلة إلى y = F(x) + x. أثناء الانتشار العكسي، يتدفق التدرج عبر اختصار الهوية دون تغيير، لذلك لا يمكن أن يختفي إلى ما يقرب من الصفر حتى عبر مئات الطبقات. هذا يبقي الأكوام العميقة قابلة للتدريب. لا تضيف اختصارات الهوية أي معلمات إضافية؛ فقط عندما تختلف أحجام المدخلات والمخرجات، يقوم إسقاط صغير (التفاف 1 × 1) بضبط الأبعاد قبل الإضافة.
التأثير الاستراتيجي
السرعة والحجم
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
خيارات البناء
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
الفريق وسير العمل
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
مستقبل الشبكات المتبقية
أصبحت الاتصالات المتبقية الآن شبه عالمية: تستخدمها المحولات ونماذج الانتشار ونماذج اللغة الكبيرة لتحقيق الاستقرار في تدريب الأكوام العميقة جدًا. يستمر البحث في متغيرات مثل ResNets قبل التنشيط، ومسارات ResNeXt المجمعة، والجمع بين الأفكار المتبقية والتدريب الخالي من التطبيع. نتوقع أن يستمر مبدأ تخطي الاتصال الأساسي باعتباره لبنة بناء افتراضية، حتى مع تحول البنى المحيطة بعيدًا عن التلافيفات الصرفة نحو الاهتمام والتصميمات الهجينة.
التنفيذ في العالم الحقيقي
يتم استخدام العمود الفقري لتصنيف ImageNet (ResNet-50، ResNet-101) كمستخرجات ميزات مدربة مسبقًا لنقل التعلم
اكتشاف الأورام والآفات في صور الأشعة وعلم الأمراض باستخدام أجهزة التشفير المستندة إلى ResNet
أطر عمل اكتشاف الكائنات وتجزئة المثيلات مثل Faster R-CNN وMask R-CNN التي تستخدم العمود الفقري لـ ResNet
خطوط أنابيب إدراك القيادة الذاتية التي تصنف المشاة والمركبات واللافتات من إطارات الكاميرا
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Residual Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
ميزة شبكات الهرم
الأسئلة المتداولة
What is Residual Networks?
الشبكات المتبقية (ResNets) هي شبكات عصبية عميقة تضيف "تخطي الاتصالات" مما يسمح للطبقات بتعلم تعديلات صغيرة بدلاً من التحويلات الكاملة. أتاحت هذه الخدعة البسيطة تدريب الشبكات على مئات الطبقات العميقة، مما أدى إلى تحقيق قفزة في دقة التعرف على الصور.
ما هي المشكلة التي حلتها الاتصالات المتبقية على وجه التحديد؟
قبل ResNets، أدت إضافة المزيد من الطبقات إلى انخفاض الدقة حتى في بيانات التدريب. تم إصلاح هذه المشكلة من خلال تخطي الاتصالات من خلال تسهيل تحسين الطبقات.
ما الذي تحسبه الكتلة المتبقية فعليًا كمخرج لها؟
تخرج الكتلة المتبقية y = F(x) + x، مما يضيف المتبقي الذي تم تعلمه إلى الإدخال عبر اتصال التخطي.
لماذا يساعد تخطي الاتصالات التدرجات أثناء التدريب؟
يوفر اختصار الهوية مسارًا مباشرًا للتدرجات اللونية للتدفق للخلف دون تغيير، مما يمنع مشكلة تلاشي التدرج اللوني في الأكوام العميقة جدًا.
ما هو عدد الطبقات التقريبية التي اشتمل عليها نموذج ResNet الفائز في عام 2015؟
فاز ResNet-152، المكون من 152 طبقة، في مسابقة ImageNet لعام 2015، مما يدل على أنه يمكن الآن تدريب الشبكات العميقة جدًا بنجاح.
إذا تعلمت طبقات الكتلة المتبقية أن F(x) = 0، فماذا تفعل الكتلة؟
عندما يكون F(x) = 0، يكون الإخراج x فقط، وبالتالي تصبح الكتلة بمثابة تعيين هوية. وهذا يجعل الطبقات الإضافية غير ضارة إذا لم تكن هناك حاجة إليها.