ছদ্ম-লেবেলিং এবং স্ব-প্রশিক্ষণ

It is a simple, powerful way to exploit abundant unlabeled data.

স্ব-প্রশিক্ষণ হল প্রাচীনতম আধা-তত্ত্বাবধানের ধারণাগুলির মধ্যে একটি। আপনি প্রথমে সীমিত লেবেলযুক্ত ডেটাতে একজন শিক্ষক মডেলকে প্রশিক্ষণ দিন। শিক্ষক তারপর লেবেলবিহীন উদাহরণের একটি বড় পুলের জন্য লেবেল ভবিষ্যদ্বাণী করেন; উচ্চ আত্মবিশ্বাসের ভবিষ্যদ্বাণী ছদ্ম-লেবেল হয়ে যায়। একজন ছাত্র মডেলকে সত্যিকারের লেবেল এবং ছদ্ম-লেবেলের মিলনে প্রশিক্ষিত করা হয়, যা প্রায়ই শিক্ষককে ছাড়িয়ে যায়। কনফিডেন্স থ্রেশহোল্ড গুরুত্বপূর্ণ: শুধুমাত্র একটি সম্ভাব্যতা কাটঅফের উপরে ভবিষ্যদ্বাণী রাখা হয়, তাই মডেলটি তার নিজস্ব অনিশ্চিত অনুমান দ্বারা দূষিত হয় না। আধুনিক রূপগুলি ধারাবাহিকতা নিয়মিতকরণের সাথে ছদ্ম-লেবেলিংকে একত্রিত করে। ফিক্সম্যাচ, উদাহরণস্বরূপ, একটি দুর্বলভাবে বর্ধিত চিত্র থেকে একটি ছদ্ম-লেবেল তৈরি করে এবং মডেলটিকে এটিকে একটি দৃঢ়ভাবে বর্ধিত সংস্করণে মেলাতে প্রশিক্ষণ দেয়, তবে শুধুমাত্র যখন দুর্বল ভবিষ্যদ্বাণী আত্মবিশ্বাসী হয়। নয়েজ স্টুডেন্ট ইমেজনেট এ ধারণাটিকে বড় করে এবং এর প্রশিক্ষণের সময় শব্দ (ড্রপআউট, অগমেন্টেশন) যোগ করে।