لاسو والانحدار الصافي المرن

تختار المربعات الصغرى العادية معاملات لتقليل أخطاء التنبؤ التربيعية. يقوم Lasso بتعديل هذا الهدف عن طريق إضافة عقوبة تتناسب مع مجموع مقادير المعامل المطلقة. تشجع العقوبة الانكماش، ولأن عقوبة القيمة المطلقة لها ركن عند الصفر، فإن بعض المعاملات المجهزة يمكن أن تصبح صفرًا تمامًا. يؤدي هذا إلى إنشاء نموذج متناثر قد يكون من الأسهل تخزينه أو فحصه. التناثر ليس دليلاً على أن المتنبئات المحتفظ بها سببية أو ذات أهمية فريدة. تجمع الشبكة المرنة بين ركلة الجزاء L1 وركلة الجزاء المربعة L2. تتحكم معلمة الخلط الخاصة بها في التوازن: نقطة النهاية L1 النقية هي لاسو، في حين أن نقطة النهاية L2 النقية هي سلسلة من التلال في المعلمات الشائعة. يمكن أن يساعد الجزء L2 في مشاركة الوزن عبر المتنبئين المترابطة بدلاً من الاحتفاظ بأحدها بشكل تعسفي وتجاهل الباقي. تتحكم معلمة القوة الإجمالية في مقدار الانكماش المطبق. تختلف اصطلاحات معلمات البرنامج الدقيقة، لذا اقرأ وثائق المكتبة. لنتأمل هنا نموذجًا افتراضيًا يشتمل على مقياسين قابلين للتبادل تقريبًا للتواصل. قد تحتفظ اللاسو بواحد وصفر بالآخر؛ ومن الممكن أن تؤدي التغييرات الصغيرة في عينة التدريب إلى عكس هذا الاختيار. قد تحتفظ الشبكة المرنة بكلاهما بمعاملات منخفضة. يمكن أن يكون أي من السلوكين مفيدًا اعتمادًا على ما إذا كان الهدف هو الاكتناز أو استقرار التنبؤ أو قابلية التفسير. إذا تم قياس النتيجة على مقاييس مختلفة جدًا أو إذا كانت الميزات تستخدم وحدات مختلفة، فإن تأثير العقوبة يكون غير متساوٍ ما لم تكن المعالجة المسبقة مناسبة. اختر إعدادات العقوبة باستخدام التحقق المتبادل ضمن بيانات التدريب، مع الحفاظ على مجموعة الاختبار النهائية دون تغيير حتى اكتمال اختيار النموذج. يجب تركيب القياس والاحتساب واختيار الميزات بشكل منفصل داخل كل حظيرة تدريب لتجنب التسرب. بالنسبة للبيانات المعتمدة على الوقت، استخدم الانقسامات التي تحترم التسلسل الزمني. تقييم الأداء التنبؤي وفحص استقرار المعامل عبر عينات معقولة. اللاسو والشبكة المرنة هما أداتان للتنبؤ الخطي المنتظم؛ فهي لا تصحح نموذجًا وظيفيًا خاطئًا، أو بيانات متحيزة، أو عدم التطابق بين مجموعة التدريب والاستخدام المقصود.