মুখোশযুক্ত অটোএনকোডার
মাস্কড অটোএনকোডার (MAE) হল একটি স্ব-তত্ত্বাবধান করা পদ্ধতি যা বেশিরভাগ ছবি লুকিয়ে রাখার পরে চিত্রগুলিকে পুনর্গঠন করতে একটি ভিশন মডেল শেখায়৷
ওভারভিউ
By learning to fill in the blanks, the model builds rich visual understanding without any human labels.
গভীর ডুব
2021 সালে Meta AI-তে Kaiming He এবং সহকর্মীদের দ্বারা প্রবর্তিত মুখোশযুক্ত অটোএনকোডার, একটি ছবি তোলে, এটিকে ছোট ছোট প্যাচে বিভক্ত করে এবং এলোমেলোভাবে তাদের একটি খুব বড় ভগ্নাংশ লুকিয়ে রাখে, প্রায়শই 75%। একটি ভিশন ট্রান্সফরমার এনকোডার শুধুমাত্র দৃশ্যমান প্যাচগুলি প্রক্রিয়া করে, যখন একটি হালকা ডিকোডার অনুপস্থিতগুলির আসল পিক্সেলগুলিকে পুনর্গঠন করার চেষ্টা করে। যেহেতু অনেক কিছু লুকানো আছে, মডেলটি কেবল কাছাকাছি পিক্সেলগুলি অনুলিপি করতে পারে না এবং আকার এবং বস্তুর অংশগুলির মতো অর্থপূর্ণ কাঠামো শিখতে হবে৷ এনকোডার মুখোশযুক্ত প্যাচগুলি এড়িয়ে যাওয়া প্রশিক্ষণকে দ্রুত এবং মেমরি দক্ষ করে তোলে। পূর্ব-প্রশিক্ষণের পরে, ডিকোডারটি বাতিল করা হয় এবং এনকোডারটি শ্রেণীবিভাগ, সনাক্তকরণ এবং বিভাজন কার্যগুলিতে দৃঢ়ভাবে স্থানান্তরিত হয়।
প্রযুক্তিগত অন্তর্দৃষ্টি
মূল কৌশলটি হল অসাম্যতা: ভারী এনকোডার শুধুমাত্র 25% প্যাচগুলিকে মুখোশহীন দেখতে পায়, যখন একটি ছোট ডিকোডার বাকিগুলি পুনর্গঠন করে। প্যাচগুলি চ্যাপ্টা, রৈখিকভাবে এম্বেড করা এবং অবস্থানগত এনকোডিং দেওয়া হয়। পুনর্গঠন ক্ষতির মানে হল স্কয়ারড ত্রুটি শুধুমাত্র মাস্ক করা প্যাচগুলিতে গণনা করা হয়, সাধারণত সাধারণ পিক্সেল মানগুলিতে। উচ্চ মাস্কিং অনুপাত নিম্ন-স্তরের ইন্টারপোলেশনের পরিবর্তে শব্দার্থিক শিক্ষাকে জোর করে এবং এনকোডারে মুখোশযুক্ত টোকেনগুলি এড়িয়ে যাওয়া সম্পূর্ণ চিত্রটি প্রক্রিয়াকরণের বিপরীতে নাটকীয়ভাবে গণনা করে।
কৌশলগত প্রভাব
গতি এবং স্কেল
ভিজ্যুয়াল এআই স্কেলে পরিদর্শন, সনাক্তকরণ এবং ট্যাগিং কাজগুলি স্বয়ংক্রিয়ভাবে করতে পারে।
পছন্দগুলি তৈরি করুন
সৃজনশীল দলগুলি কম ম্যানুয়াল সংশোধন সহ ধারণাগুলিকে দ্রুত প্রোটোটাইপ করতে পারে।
টিম এবং ওয়ার্কফ্লো
অপারেশনগুলি ইমেজ এবং ভিডিও সংকেত ব্যবহার করতে পারে যা আগে প্রক্রিয়া করা কঠিন ছিল।
মুখোশযুক্ত অটোএনকোডারের ভবিষ্যত
MAE-স্টাইলের মুখোশযুক্ত পুনর্গঠন পদ্ধতি জুড়ে একটি ডিফল্ট প্রাক-প্রশিক্ষণ রেসিপি হয়ে উঠছে। গবেষকরা এটিকে ভিডিওতে প্রসারিত করছেন (স্পেসটাইম কিউব লুকিয়ে রাখা), অডিও স্পেকট্রোগ্রাম, মেডিকেল স্ক্যান এবং স্যাটেলাইট চিত্র, যেখানে লেবেলগুলি দুষ্প্রাপ্য এবং ব্যয়বহুল। মাল্টিমডাল ফাউন্ডেশন মডেল, আরও দক্ষ ডিকোডার, এবং তথ্যপূর্ণ অঞ্চলগুলিকে লক্ষ্য করে অভিযোজিত মাস্কিংয়ের জন্য ভাষার সাথে আরও কঠোর ফিউশন আশা করুন। গণনা বৃদ্ধির সাথে সাথে, বিশাল লেবেলবিহীন চিত্র সংগ্রহগুলিতে মুখোশযুক্ত প্রি-ট্রেইনিং ব্যয়বহুল মানব টীকাটির উপর নির্ভরতা হ্রাস করার সাথে সাথে ডাউনস্ট্রিম নির্ভুলতা উন্নত করা উচিত।
বাস্তব-বিশ্ব বাস্তবায়ন
লক্ষাধিক লেবেলবিহীন ফটোতে একটি ভিশন ট্রান্সফরমার প্রি-ট্রেইনিং, তারপর দৃঢ় নির্ভুলতার সাথে ইমেজনেট শ্রেণীবিভাগের জন্য এটিকে ফাইন-টিউনিং করা
লেবেলবিহীন মেডিকেল স্ক্যান (এক্স-রে, এমআরআই) থেকে শেখার বৈশিষ্ট্য যেখানে বিশেষজ্ঞের টীকা ব্যয়বহুল এবং সীমিত
স্পেসটাইম প্যাচ মাস্ক করে অ্যাকশন-রিকগনিশন মডেল (ভিডিওএমএই)
ভূমি-ব্যবহারের ম্যাপিং এবং ম্যানুয়াল লেবেল ছাড়া শনাক্তকরণ পরিবর্তন করতে স্যাটেলাইট এবং বায়বীয় চিত্রের উপর পূর্ব প্রশিক্ষণ
ঝুঁকি এবং প্রহরী
প্রমাণ অস্পষ্ট হলে ছবির অধিকার এবং সম্মতি আইনি ঝুঁকিতে পরিণত হতে পারে।
মডেলের কর্মক্ষমতা আলো, জনসংখ্যা এবং পরিবেশ জুড়ে পরিবর্তিত হতে পারে।
আস্থার থ্রেশহোল্ডগুলি পর্যবেক্ষণ করা না হলে মিথ্যা ইতিবাচকগুলি অলক্ষিত হতে পারে।
বাস্তবায়ন রোডম্যাপ
নির্ভুলতা, প্রত্যাহার, এবং ত্রুটি খরচের জন্য গ্রহণযোগ্যতার মানদণ্ড নির্ধারণ করুন।
প্রকৃত উৎপাদন অবস্থার সাথে মেলে এমন ডেটা দিয়ে পরীক্ষা করুন।
কম-আস্থা বা উচ্চ-প্রভাব ভবিষ্যদ্বাণীর জন্য মানুষের পর্যালোচনা যোগ করুন।
মডেল ড্রিফ্ট ট্র্যাক করুন এবং ক্যামেরা বা ডেটাসেট পরিবর্তনের পরে পুনরায় যাচাই করুন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Masked Autoencoders quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
মিউজ মাস্কড জেনারেটিভ ইমেজিং
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Masked Autoencoders?
মাস্কড অটোএনকোডার (MAE) হল একটি স্ব-তত্ত্বাবধান করা পদ্ধতি যা বেশিরভাগ ছবি লুকিয়ে রাখার পরে চিত্রগুলিকে পুনর্গঠন করতে একটি ভিশন মডেল শেখায়৷ শূন্যস্থান পূরণ করতে শেখার মাধ্যমে, মডেলটি কোনো মানবিক লেবেল ছাড়াই সমৃদ্ধ ভিজ্যুয়াল বোঝাপড়া তৈরি করে।
একটি মুখোশযুক্ত অটোএনকোডারে মূল স্ব-তত্ত্বাবধানে কাজটি কী?
MAE বেশিরভাগ ইমেজ প্যাচ লুকিয়ে রাখে এবং অনুপস্থিত পিক্সেলগুলিকে পুনর্গঠন করার জন্য মডেলটিকে প্রশিক্ষণ দেয়, যার জন্য কোনো মানব লেবেলের প্রয়োজন নেই।
মোটামুটিভাবে মূল MAE সাধারণত চিত্র প্যাচের কোন ভগ্নাংশ মাস্ক আউট করে?
আসল MAE মাস্ক প্রায় 75% প্যাচ, একটি উচ্চ অনুপাত যা মডেলটিকে প্রতিবেশীদের অনুলিপি করার পরিবর্তে অর্থপূর্ণ কাঠামো শিখতে বাধ্য করে।
কেন MAE এনকোডার শুধুমাত্র দৃশ্যমান (আনমাস্কড) প্যাচগুলি প্রক্রিয়া করে?
এনকোডারে মুখোশযুক্ত টোকেনগুলি এড়িয়ে যাওয়া গণনা এবং মেমরিকে ব্যাপকভাবে হ্রাস করে, কারণ এটি প্যাচগুলির একটি ছোট ভগ্নাংশ পরিচালনা করে।
MAE প্রিট্রেনিং সম্পূর্ণ হওয়ার পরে ডিকোডারের কী হবে?
লাইটওয়েট ডিকোডারটি শুধুমাত্র প্রাক-প্রশিক্ষণের সময় পুনর্গঠনের জন্য প্রয়োজন; তারপরে শেখা এনকোডার সনাক্তকরণের মতো কাজে স্থানান্তরিত হয়।
MAE সাধারণত পুনর্গঠনের জন্য কোন ক্ষতি ফাংশন ব্যবহার করে?
MAE ভবিষ্যদ্বাণী করা এবং সত্যিকারের পিক্সেল মানগুলির মধ্যে গড় বর্গাকার ত্রুটি কম করে, শুধুমাত্র মুখোশযুক্ত প্যাচগুলিতে গণনা করা হয়।