الانتشار العكسي
Backpropagation هي الخوارزمية التي تتيح للشبكة العصبية التعلم من أخطائها من خلال حساب مقدار مساهمة كل وزن في الخطأ بكفاءة.
نظرة عامة
It is the engine behind almost all modern deep learning training.
الغوص العميق
عندما تقوم الشبكة العصبية بالتنبؤ، فإنها تنتج بعض الأخطاء التي يتم قياسها بواسطة دالة الخسارة. يجيب الانتشار العكسي على سؤال بالغ الأهمية: كيف يجب أن يتغير كل واحد من ملايين الأوزان لتقليل هذا الخطأ؟ يقوم بذلك عن طريق تطبيق قاعدة السلسلة من حساب التفاضل والتكامل، والعمل للخلف من طبقة الإخراج باتجاه طبقة الإدخال. يتم تمرير إشارة الخطأ مرة أخرى عبر الشبكة، وفي كل طبقة تحسب الخوارزمية التدرج والاتجاه والكمية التي يجب أن يتغير بها كل وزن. الفكرة الرئيسية، التي نشرها روملهارت وهينتون وويليامز في عام 1986، هي أن النتائج الوسيطة يمكن إعادة استخدامها، مما يجعل الحساب فعالا. بدون الانتشار العكسي، سيكون تدريب شبكة عميقة بمليارات من المعلمات أمرًا ميؤوسًا منه من الناحية الحسابية.
البصيرة الفنية
يعمل الانتشار العكسي في مسارين. يحسب التمرير الأمامي التنبؤ ويحفظ عمليات التنشيط المتوسطة. يطبق التمرير الخلفي قاعدة السلسلة: فهو يضاعف المشتقات المحلية طبقة بعد طبقة، وينشر تدرج الخسارة فيما يتعلق بكل وزن. والأهم من ذلك، أنها تقوم بتخزين المشتقات الجزئية وإعادة استخدامها بدلاً من إعادة حسابها، وبالتالي تظل التكلفة متناسبة تقريبًا مع تمريرة أمامية واحدة. يتم بعد ذلك تسليم التدرجات الناتجة إلى مُحسِّن مثل نزول التدرج لتحديث الأوزان.
التأثير الاستراتيجي
قرارات أوضح
يساعدك على فصل المطالبات الفنية الواضحة عن لغة التسويق.
التكلفة والميزانية
يمكنك طرح أسئلة تنفيذ أفضل قبل إنفاق المال أو الوقت.
الفريق وسير العمل
تتخذ الفرق ذات الفهم المشترك قرارات أفضل بشأن المنتجات والسياسات والتعلم.
مستقبل الانتشار العكسي
يظل الانتشار العكسي هو العمود الفقري للتعلم العميق، لكن الباحثين يستكشفون حدوده بنشاط. وتزداد تكلفة الذاكرة مع عمق الشبكة، مما يحفز الحيل مثل فحص التدرج للنماذج الضخمة. تهدف البدائل المستوحاة بيولوجيًا مثل التعلم المتقدم إلى الأمام ومحاذاة ردود الفعل إلى إزالة اعتماد الدعامة الخلفية على الأوزان المتماثلة وإشارات الخطأ العالمية. في الوقت الحالي، لا توجد طريقة تضاهي كفاءتها على نطاق واسع، لذا توقع الانتشار العكسي لتشغيل النماذج الرائدة لسنوات بينما تنضج هذه البدائل في مختبرات الأبحاث.
التنفيذ في العالم الحقيقي
تدريب مصنف الصور بحيث يقوم بضبط المرشحات تدريجيًا للتعرف على القطط مقابل الكلاب بعد كل مجموعة من الصور
ضبط نموذج لغة كبير في مستندات الشركة عن طريق نشر الخطأ في الكلمات التالية المتوقعة
تدريس شبكة رؤية السيارة ذاتية القيادة لتقليل أخطاء التنبؤ بزاوية التوجيه أثناء المحاكاة
تحديث تضمينات نموذج التوصية بحيث يتنبأ بشكل أفضل بالأفلام التي سينقر عليها المستخدم
المخاطر والدرابزين
قد تستخدم الفرق المختلفة نفس المصطلح بشكل مختلف، لذا حدد النطاق مبكرًا.
يمكن أن تبدو المعايير قوية بينما يكون الأداء في العالم الحقيقي غير متساوٍ.
غالبًا ما يؤدي تجاهل جودة البيانات وخطط التقييم إلى نتائج هشة.
خارطة طريق التنفيذ
ابدأ بتعريف لغة واضحة للنتيجة التي تحتاجها.
اختر مقياس نجاح واحد وحالة فشل واحدة قبل الاختبار.
قم بتشغيل برنامج تجريبي صغير يحتوي على بيانات تمثيلية، وليس مجموعة تجريبية مصقولة.
قم بالتوثيق حيث يساعد Backpropagation وأين تكون الطرق الأبسط أفضل.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Backpropagation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
وظائف الخسارة
الأسئلة المتداولة
What is Backpropagation?
Backpropagation هي الخوارزمية التي تتيح للشبكة العصبية التعلم من أخطائها من خلال حساب مقدار مساهمة كل وزن في الخطأ بكفاءة. إنه المحرك وراء كل تدريبات التعلم العميق الحديثة تقريبًا.
ما هو الغرض الأساسي من الانتشار العكسي؟
يقوم Backpropagation بحساب تدرج الخسارة فيما يتعلق بكل وزن، وإخبار المحسن بكيفية ضبطها لتقليل الخطأ.
ما هي القاعدة الرياضية التي تكمن وراء الانتشار العكسي؟
يطبق الانتشار العكسي قاعدة السلسلة لدمج المشتقات المحلية عبر الطبقات، ونشر تدرجات الخطأ للخلف عبر الشبكة.
لماذا يعتبر الانتشار العكسي فعالاً من الناحية الحسابية؟
من خلال التخزين المؤقت للمشتقات الجزئية وعمليات التنشيط من التمريرة الأمامية، يتجنب الانتشار العكسي الحسابات الزائدة عن الحاجة، مما يحافظ على التكلفة بالقرب من تكلفة تمريرة أمامية واحدة.
بأي ترتيب يقوم الانتشار العكسي بحساب التدرجات؟
الاسم يوضح كل شيء: يتم نشر الخطأ للخلف، بدءًا من الإخراج والانتقال نحو الإدخال، لذلك يعتمد تدرج كل طبقة على الطبقة التي تليها.
ما الذي ينتجه الانتشار العكسي الذي يستخدمه المُحسِّن بعد ذلك؟
يؤدي الانتشار العكسي إلى إخراج التدرجات، والتي يستخدمها مُحسِّن مثل نزول التدرج لتحديث الأوزان في الاتجاه الذي يقلل الخسارة.