প্রযুক্তিগত গাইড
ক্লাস ভারসাম্যহীনতা এবং পুনরায় নমুনাকরণ
শ্রেণী ভারসাম্যহীনতা হল যখন একটি ফলাফল অপরটির সংখ্যার চেয়ে অনেক বেশি - যেমন 99.9% বৈধ লেনদেন বনাম 0.1% জালিয়াতি - যা বিরল কিন্তু গুরুত্বপূর্ণ শ্রেণীকে উপেক্ষা করার জন্য মডেলদের প্রতারণা করে৷
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
ওভারভিউ
রিস্যাম্পলিং ট্রেনিং ডেটার ভারসাম্য বজায় রাখে যাতে মডেলটি আসলে সংখ্যালঘুদের চিহ্নিত করতে শেখে।
গভীর ডুব
যখন ক্লাস তির্যক হয়, একটি মডেল সর্বদা সংখ্যাগরিষ্ঠের ভবিষ্যদ্বাণী করে এবং কখনও একটি একক জালিয়াতি না ধরার মাধ্যমে 99.9% নির্ভুলতা আঘাত করতে পারে, যা অকেজো। পুনরায় নমুনাকরণ দুটি বিস্তৃত উপায়ে প্রশিক্ষণ বিতরণকে ঠিক করে। ওভারস্যাম্পলিং সংখ্যালঘু উদাহরণের নকল বা সংশ্লেষণ করে — ক্লাসিক SMOTE (সিন্থেটিক মাইনরিটি ওভার-স্যাম্পলিং টেকনিক) সংখ্যালঘু নমুনা এবং তার নিকটতম সংখ্যালঘু প্রতিবেশীদের মধ্যে অনুলিপি করার পরিবর্তে নতুন পয়েন্ট তৈরি করে। আন্ডারস্যাম্পলিং এর পরিবর্তে বেশিরভাগ উদাহরণ (এলোমেলোভাবে, বা বুদ্ধিমানভাবে Tomek লিঙ্ক বা NearMiss এর মতো পদ্ধতির মাধ্যমে) বাতিল করে, ডেটা ফেলে দেওয়ার খরচে। বিকল্পগুলি যেগুলি ডেটা স্পর্শ করা এড়ায় তার মধ্যে রয়েছে ক্লাস ওয়েটিং (লোকসান ফাংশনে সংখ্যালঘু ত্রুটিগুলিকে আরও শাস্তি দেওয়া) এবং প্রশিক্ষণের পরে সিদ্ধান্তের প্রান্তিকতা সামঞ্জস্য করা।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি ক্রেডিট-কার্ড জালিয়াতি সনাক্তকারীকে প্রশিক্ষণ দেওয়া যেখানে সত্যিকারের জালিয়াতি 1% লেনদেনের নিচে, SMOTE ব্যবহার করে বিরল জালিয়াতির ঘটনাগুলিকে প্রসারিত করতে
মাত্র কয়েক শতাংশ রোগীর মধ্যে উপস্থিত একটি বিরল রোগের জন্য একটি মেডিকেল মডেল তৈরি করা, ক্লাস ওজন প্রয়োগ করা যাতে মিস করা কেসগুলিকে ভারী শাস্তি দেওয়া হয়
একটি ম্যানুফ্যাকচারিং লাইনে ত্রুটিপূর্ণ আইটেম সনাক্ত করা যেখানে প্রায় সমস্ত পণ্য পরিদর্শন পাস করে, প্রশিক্ষণের ভারসাম্য বজায় রাখার জন্য 'ভাল' আইটেমগুলিকে আন্ডারস্যাম্পলিং করে
সাধারণ ট্র্যাফিক দ্বারা প্রভাবিত সাইবারসিকিউরিটি লগগুলিতে বিরল নেটওয়ার্ক অনুপ্রবেশের ফ্ল্যাগিং, যথার্থতার পরিবর্তে যথার্থ-রিকল AUC দিয়ে মূল্যায়ন করা হয়েছে
ক্লাস ভারসাম্যহীনতা এবং পুনরায় নমুনাকরণের ভবিষ্যত
এমএল পাইপলাইনগুলির মধ্যে পুনরায় নমুনাকরণ ক্রমবর্ধমান স্বয়ংক্রিয় হচ্ছে, ইমব্যালেন্সড-লার্নের মতো লাইব্রেরিগুলি সরাসরি ক্রস-ভ্যালিডেশনে একীভূত হচ্ছে। গবেষণা খরচ-সংবেদনশীল শিক্ষা এবং উপযোগী ক্ষতির ফাংশনগুলির দিকে স্থানান্তরিত হচ্ছে - যেমন ফোকাল লস, যা সহজ সংখ্যাগরিষ্ঠ উদাহরণগুলি কমিয়ে দেয় - যা প্রায়শই গভীর নেটওয়ার্কগুলিতে অপরিশোধিত পুনর্নবীকরণকে ছাড়িয়ে যায়৷ ট্যাবুলার এবং ইমেজ ডেটার জন্য, জেনারেটিভ মডেলগুলি যা বাস্তবসম্মত সংখ্যালঘু নমুনাগুলিকে সংশ্লেষ করে SMOTE-শৈলী ইন্টারপোলেশনের আরও পরিশীলিত উত্তরসূরি হিসাবে আবির্ভূত হচ্ছে৷
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- খরচ ও বাজেট. আর্কিটেকচারের সিদ্ধান্তগুলি বছরের পর বছর ধরে কর্মক্ষমতা এবং অপারেটিং খরচ চালায়।
- সুস্পষ্ট সিদ্ধান্ত. কারিগরি শিক্ষা দলগুলোকে সঠিক স্ট্যাক বেছে নিতে সাহায্য করে, শুধু নতুনটি নয়।
- মান নিয়ন্ত্রণ. ভালো ইঞ্জিনিয়ারিং পছন্দ উৎপাদনে নির্ভরযোগ্যতার ঘটনা কমিয়ে দেয়।
জন্য সতর্ক
- একটি বেঞ্চমার্ক অপ্টিমাইজ করা বৃহত্তর সিস্টেম দুর্বলতা আড়াল করতে পারে।
- অবকাঠামো এবং রক্ষণাবেক্ষণের খরচ প্রায়ই অবমূল্যায়ন করা হয়।
- সিস্টেমগুলি আরও জটিল হওয়ার সাথে সাথে সুরক্ষা এবং পর্যবেক্ষণযোগ্যতার ফাঁক বাড়তে পারে।
পরবর্তী পদক্ষেপ
- বাস্তবায়নের আগে বিলম্ব, গুণমান এবং খরচের লক্ষ্য নির্ধারণ করুন।
- বাস্তবসম্মত লোড এবং ডেটা অবস্থার অধীনে বেঞ্চমার্ক।
- ত্রুটি, প্রবাহ, এবং ব্যবহারকারীর প্রভাবের জন্য যন্ত্র পর্যবেক্ষণ।
- স্কেল করার আগে রোলব্যাক এবং ঘটনার প্রতিক্রিয়া পাথ প্রস্তুত করুন।
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the Class Imbalance and Resampling quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
ক্লাস ভারসাম্যহীনতা এবং পুনরায় নমুনা কি?
শ্রেণী ভারসাম্যহীনতা হল যখন একটি ফলাফল অপরটির সংখ্যার চেয়ে অনেক বেশি - যেমন 99.9% বৈধ লেনদেন বনাম 0.1% জালিয়াতি - যা বিরল কিন্তু গুরুত্বপূর্ণ শ্রেণীকে উপেক্ষা করার জন্য মডেলদের প্রতারণা করে৷ রিস্যাম্পলিং ট্রেনিং ডেটার ভারসাম্য বজায় রাখে যাতে মডেলটি আসলে সংখ্যালঘুদের চিহ্নিত করতে শেখে।
কেন সাধারণ নির্ভুলতা একটি অত্যন্ত ভারসাম্যহীন শ্রেণীবিভাগ সমস্যার জন্য একটি দুর্বল মেট্রিক?
যদি 99.9% ক্ষেত্রে নেতিবাচক হয়, একটি মডেল যেটি সর্বদা নেতিবাচক ভবিষ্যদ্বাণী করে শূন্য পজিটিভ ধরার সময় 99.9% নির্ভুলতা পায়, তাই নির্ভুলতা বিরল শ্রেণিতে সম্পূর্ণ ব্যর্থতা লুকিয়ে রাখে।
SMOTE কি করে?
SMOTE (সিন্থেটিক মাইনরিটি ওভার-স্যাম্পলিং টেকনিক) সংখ্যালঘু বিন্দু এবং তার নিকটতম সংখ্যালঘু প্রতিবেশীদের মধ্যে আন্তঃপ্রবেশ করে নতুন সংখ্যালঘু উদাহরণ তৈরি করে, বরং তাদের নকল করে।
কোন পদ্ধতিটি প্রশিক্ষণের উদাহরণের সংখ্যা পরিবর্তন না করে ভারসাম্যহীনতা পরিচালনা করে?
ক্লাস ওয়েটিং ডেটাকে অস্পৃশ্য রাখে এবং এর পরিবর্তে লস ফাংশনটি সংখ্যালঘু শ্রেণীতে ত্রুটিগুলিকে আরও বেশি দণ্ডিত করে।
ট্রেন এবং পরীক্ষা সেটে আপনার ডেটা বিভক্ত করার আগে ওভারস্যাম্পলিং প্রয়োগ করার মূল ঝুঁকি কী?
বিভক্ত হওয়ার আগে পুনরায় নমুনা করা ট্রেন এবং পরীক্ষা উভয় সেটেই প্রায় অভিন্ন সংখ্যালঘু পয়েন্টগুলি উপস্থিত হতে দেয়, তথ্য ফাঁস করে এবং অত্যধিক আশাবাদী, অবাস্তব কর্মক্ষমতা তৈরি করে।
র্যান্ডম আন্ডারস্যাম্পলিং এর প্রধান খারাপ দিক কি?
আন্ডারস্যাম্পলিং সংখ্যাগরিষ্ঠ উদাহরণগুলি ফেলে দিয়ে ক্লাসের ভারসাম্য বজায় রাখে, যা তথ্যমূলক ডেটা বাতিল করতে পারে এবং সংখ্যাগরিষ্ঠ শ্রেণী শেখার মডেলের ক্ষমতাকে ক্ষতিগ্রস্ত করতে পারে।
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড