التعلم المتناقض
يقوم التعلم التقابلي بتعليم النموذج كيفية تجميع الأشياء المتشابهة معًا ودفع الأشياء المتباينة بعيدًا في مساحة التضمين.
نظرة عامة
It matters because it lets AI learn powerful representations from mostly unlabeled data, powering image search, recommendations, and multimodal models.
الغوص العميق
بدلاً من التنبؤ بالتسمية، يتعلم التعلم المتباين عن طريق المقارنة: بالنظر إلى عنصر ربط، يتم تدريب النموذج بحيث يهبط "الإيجابي" المطابق بالقرب منه في الفضاء المتجه بينما يهبط "السلبيات" غير المتطابقة بعيدًا. تعمل الوصفة الشائعة الخاضعة للإشراف الذاتي (مثل SimCLR) على إنشاء إيجابيات من خلال إجراء زيادتين عشوائيتين لنفس الصورة (الاقتصاص، واضطراب اللون، والتمويه)؛ كل شيء آخر في الدفعة سلبي. يقوم النموذج بتعيين المدخلات للمتجهات وتكافئ الخسارة التشابه العالي للزوج والتشابه المنخفض للبقية. وينتج عن ذلك عمليات تضمين حيث تعكس المسافة المعنى، لذا تحتاج المهمة النهائية إلى تسميات أقل بكثير. يطبق CLIP نفس الفكرة عبر الأساليب، حيث يقوم بمطابقة الصور مع التسميات التوضيحية الخاصة بها.
البصيرة الفنية
إن خسارة العمود الفقري هي InfoNCE (softmax على درجات التشابه)، وغالبًا ما يكون تشابه جيب التمام مقسومًا على درجة الحرارة التي تتحكم في مدى تفضيل الإيجابيات بشكل حاد. والأهم من ذلك، أن الأداء يتحسن مع العديد من السلبيات، لذا فإن الدفعات الكبيرة أو بنك/قائمة انتظار الذاكرة (كما هو الحال في MoCo) توفرها. تقوم بعض الأساليب مثل BYOL وSimSiam بإسقاط السلبيات الصريحة وبدلاً من ذلك تستخدم شبكة مستهدفة ذات زخم أو تدرج متوقف لتجنب الانهيار، حيث تصبح جميع التضمينات متطابقة.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل التعلم التقابلي
يتقارب التعلم التقابلي مع الإشراف الذاتي المقنع والمولد في أهداف مختلطة تلتقط التشابه العالمي والتفاصيل الدقيقة. أكبر تأثير لها هو الوسائط المتعددة: حيث تدعم تضمينات الصور والنص المتوافقة بشكل متباين (والآن الصوت والفيديو) البحث، وتوليد الاسترجاع المعزز، وتصنيف اللقطة الصفرية، وسوف تنمو هذه البصمة. توقع المزيد من العمل على تقليل الشهية للدفعات الضخمة، وعلى استراتيجيات التعزيز والتعدين السلبي بشكل أفضل، وعلى توسيع النهج ليشمل مجالات مثل التصوير الطبي والسلاسل الزمنية حيث تكون الملصقات نادرة ومكلفة.
التنفيذ في العالم الحقيقي
يتعلم CLIP مساحة نصية وصور مشتركة حتى تتمكن من البحث في مكتبة الصور باستخدام عبارة مكتوبة مثل "كلب على لوح تزلج".
التدريب المسبق للعمود الفقري للرؤية باستخدام SimCLR على صور غير مُعلَّمة، ثم ضبطه بدقة للكشف عن الأمراض باستخدام مجموعة صغيرة مُلصقة فقط.
بناء توصيات المنتج أو الأغنية حيث تكون العناصر المضمنة التي أحبها المستخدم قريبة من بعضها البعض لاسترجاعها من أقرب جار.
تعمل أنظمة التحقق من الوجه على تدريب التضمين بحيث تكون صورتان لنفس الشخص قريبتين وأشخاص مختلفين متباعدين.
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Contrastive Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التعلم الموحد
الأسئلة المتداولة
What is Contrastive Learning?
يقوم التعلم التقابلي بتعليم النموذج كيفية تجميع الأشياء المتشابهة معًا ودفع الأشياء المتباينة بعيدًا في مساحة التضمين. إنه أمر مهم لأنه يتيح للذكاء الاصطناعي التعرف على تمثيلات قوية من البيانات غير المسماة في الغالب، مما يدعم البحث عن الصور والتوصيات والنماذج متعددة الوسائط.
ما هو الهدف الأساسي للتعلم التقابلي؟
يشكل التعلم التقابلي مساحة تضمين بحيث تكون الأزواج المتطابقة قريبة والأزواج غير المتطابقة متباعدة.
في طريقة الصور الخاضعة للإشراف الذاتي مثل SimCLR، كيف يتم إنشاء زوج موجب عادةً؟
يشكل SimCLR صورًا إيجابية من عرضين معززين لصورة واحدة، بينما تعمل الصور الأخرى في المجموعة كصور سلبية.
ما هي وظيفة الخسارة الأكثر ارتباطًا بالتعلم التقابلي؟
إن InfoNCE، وهو softmax على درجات التشابه مع درجة الحرارة، هو الهدف المتباين القياسي.
لماذا تستخدم أساليب مثل MoCo بنك ذاكرة أو قائمة انتظار؟
يستفيد التعلم المقارن من سلبيات كثيرة؛ توفرها قائمة الانتظار مع الحفاظ على إمكانية التحكم في حجم الدفعة.
ما هي المشكلة التي يحميها BYOL وSimSiam على وجه التحديد دون استخدام السلبيات الصريحة؟
بدون السلبيات، يمكن للنموذج أن يرسم كل شيء بشكل تافه إلى نفس المتجه؛ تمنع أهداف التوقف المتدرج والزخم هذا الانهيار.