التاليالدليل التالي
مشاركة نقاط التفتيش والتدريب القابل للاستئناف
التقنية
الدليل الفني
وضع العلامات الزائفة والتدريب الذاتي
التصنيف الزائف هو أسلوب شبه خاضع للإشراف حيث يقوم النموذج الذي تم تدريبه على مجموعة صغيرة تحمل علامات بإنشاء تسمياته الخاصة للبيانات غير المسماة، ثم يتدرب على تلك التنبؤات.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
إنها طريقة بسيطة وقوية لاستغلال البيانات الوفيرة غير المسماة.
الغوص العميق
يعد التدريب الذاتي من أقدم الأفكار شبه الخاضعة للإشراف. عليك أولاً تدريب نموذج المعلم على البيانات ذات التصنيف المحدود. ثم يتنبأ المعلم بالتسميات لمجموعة كبيرة من الأمثلة غير المسماة؛ تصبح التنبؤات عالية الثقة تسميات زائفة. يتم تدريب نموذج الطالب على توحيد التسميات الحقيقية والتسميات الزائفة، وغالبًا ما يتفوق على المعلم. عتبات الثقة مهمة: يتم الاحتفاظ فقط بالتنبؤات التي تتجاوز حد الاحتمال، وبالتالي لا يفسد النموذج بتخميناته غير المؤكدة. تجمع المتغيرات الحديثة بين العلامات الزائفة وتنظيم الاتساق. على سبيل المثال، يقوم FixMatch بإنشاء تسمية زائفة من صورة معززة بشكل ضعيف وتدريب النموذج لمطابقتها على نسخة معززة بقوة، ولكن فقط عندما يكون التنبؤ الضعيف موثوقًا. قام Noisy Student بتوسيع نطاق الفكرة على ImageNet من خلال جعل الطالب أكبر حجمًا وإضافة الضوضاء (التسرب والتكبير) أثناء التدريب.
التنفيذ في العالم الحقيقي
تدريب نظام التعرف على الكلام عن طريق نسخ آلاف الساعات من الصوت غير المسمى باستخدام نموذج أولي، ثم إعادة التدريب على النصوص الواثقة.
يعمل برنامج Noisy Student التابع لـ Google على تحسين دقة ImageNet من خلال وضع علامات متكررة على الصور غير المسماة مع المعلم وتدريب طالب أكبر حجمًا وأكثر ضجيجًا.
وضع علامات على مجموعة كبيرة من عمليات الفحص الطبي غير المشروحة باستخدام نموذج تم تدريبه على بضع مئات من الحالات التي تحمل علامة الخبراء لتوسيع مجموعة التدريب.
تمهيد مصنف نصي لمجال متخصص عن طريق وضع علامات زائفة على ملايين المستندات غير المسماة أعلى من حد الثقة.
مستقبل العلامات الزائفة والتدريب الذاتي
ويظل وضع العلامات الزائفة عنصرًا أساسيًا في التعلم الفعال للتسمية وبشكل متزايد في خطوط تدريب النماذج الكبيرة، حيث تولد النماذج القوية تسميات اصطناعية أو حتى بيانات اصطناعية لتدريب نماذج أصغر أو أحدث، وهو شكل من أشكال التقطير. توقع تكاملًا أكثر إحكامًا مع التعلم النشط (تحديد الأمثلة التي يجب على البشر تصنيفها)، وتقديرات أفضل لعدم اليقين لتصفية المسميات الزائفة، والاستمرار في الاستخدام في التعرف على الكلام، والتصوير الطبي، وأي مجال حيث تفوق البيانات غير المسماة بشكل كبير البيانات المصنفة.
وضعها موضع التنفيذ
لماذا يهم
- التكلفة والميزانية. تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
- قرارات أوضح. يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
- مراقبة الجودة. تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
احترس من
- يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
- غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
- يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
الخطوات التالية
- تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
- المعيار في ظل ظروف التحميل والبيانات الواقعية.
- مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
- قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Pseudo-Labeling and Self-Training quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو وضع العلامات الزائفة والتدريب الذاتي؟
التصنيف الزائف هو أسلوب شبه خاضع للإشراف حيث يقوم النموذج الذي تم تدريبه على مجموعة صغيرة تحمل علامات بإنشاء تسمياته الخاصة للبيانات غير المسماة، ثم يتدرب على تلك التنبؤات. إنها طريقة بسيطة وقوية لاستغلال البيانات الوفيرة غير المسماة.
How does a basic self-training loop use unlabeled examples?
The guide describes generating pseudo-labels and training with labeled and selected unlabeled examples.
Why apply a confidence threshold to pseudo-labels?
The guide says high-confidence predictions are retained to reduce contamination from uncertain guesses.
What is confirmation bias in pseudo-labeling?
The guide warns that a model’s errors may be reinforced by its generated labels.
In FixMatch, where does the pseudo-label come from?
FixMatch uses a confident prediction from a weak augmentation to train on a strong augmentation.
What is the student-noise idea in Noisy Student?
The guide describes adding noise during student training to encourage generalization.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع