ভিজ্যুয়াল এআই গাইড

মুখোশযুক্ত অটোএনকোডার

মাস্কড অটোএনকোডার (MAE) হল একটি স্ব-তত্ত্বাবধান করা পদ্ধতি যা বেশিরভাগ ছবি লুকিয়ে রাখার পরে চিত্রগুলিকে পুনর্গঠন করতে একটি ভিশন মডেল শেখায়৷

ওভারভিউ

মাস্কড অটোএনকোডার (MAE) হল একটি স্ব-তত্ত্বাবধান করা পদ্ধতি যা বেশিরভাগ ছবি লুকিয়ে রাখার পরে চিত্রগুলিকে পুনর্গঠন করতে একটি ভিশন মডেল শেখায়৷ শূন্যস্থান পূরণ করতে শেখার মাধ্যমে, মডেলটি কোনো মানবিক লেবেল ছাড়াই সমৃদ্ধ ভিজ্যুয়াল বোঝাপড়া তৈরি করে।

মাস্কড অটোএনকোডারগুলি কম্পিউটার-ভিশন ওয়ার্কফ্লোগুলির অন্তর্গত যা বিশ্লেষণ, ক্রিয়াকলাপ এবং সৃজনশীলতার জন্য ভিজ্যুয়াল মিডিয়া ব্যাখ্যা করে বা তৈরি করে।

গভীর ডুব

2021 সালে Meta AI-তে Kaiming He এবং সহকর্মীদের দ্বারা প্রবর্তিত মুখোশযুক্ত অটোএনকোডার, একটি ছবি তোলে, এটিকে ছোট ছোট প্যাচে বিভক্ত করে এবং এলোমেলোভাবে তাদের একটি খুব বড় ভগ্নাংশ লুকিয়ে রাখে, প্রায়শই 75%। একটি ভিশন ট্রান্সফরমার এনকোডার শুধুমাত্র দৃশ্যমান প্যাচগুলি প্রক্রিয়া করে, যখন একটি হালকা ডিকোডার অনুপস্থিতগুলির আসল পিক্সেলগুলিকে পুনর্গঠন করার চেষ্টা করে। যেহেতু অনেক কিছু লুকানো আছে, মডেলটি কেবল কাছাকাছি পিক্সেলগুলি অনুলিপি করতে পারে না এবং আকার এবং বস্তুর অংশগুলির মতো অর্থপূর্ণ কাঠামো শিখতে হবে৷ এনকোডার মুখোশযুক্ত প্যাচগুলি এড়িয়ে যাওয়া প্রশিক্ষণকে দ্রুত এবং মেমরি দক্ষ করে তোলে। পূর্ব-প্রশিক্ষণের পরে, ডিকোডারটি বাতিল করা হয় এবং এনকোডারটি শ্রেণীবিভাগ, সনাক্তকরণ এবং বিভাজন কার্যগুলিতে দৃঢ়ভাবে স্থানান্তরিত হয়।

প্রযুক্তিগত অন্তর্দৃষ্টি

মূল কৌশলটি হল অসাম্যতা: ভারী এনকোডার শুধুমাত্র 25% প্যাচগুলিকে মুখোশহীন দেখতে পায়, যখন একটি ছোট ডিকোডার বাকিগুলি পুনর্গঠন করে। প্যাচগুলি চ্যাপ্টা, রৈখিকভাবে এম্বেড করা এবং অবস্থানগত এনকোডিং দেওয়া হয়। পুনর্গঠন ক্ষতির মানে হল স্কয়ারড ত্রুটি শুধুমাত্র মাস্ক করা প্যাচগুলিতে গণনা করা হয়, সাধারণত সাধারণ পিক্সেল মানগুলিতে। উচ্চ মাস্কিং অনুপাত নিম্ন-স্তরের ইন্টারপোলেশনের পরিবর্তে শব্দার্থিক শিক্ষাকে জোর করে এবং এনকোডারে মুখোশযুক্ত টোকেনগুলি এড়িয়ে যাওয়া সম্পূর্ণ চিত্রটি প্রক্রিয়াকরণের বিপরীতে নাটকীয়ভাবে গণনা করে।

মাস্কড অটোএনকোডারগুলি আয়ত্ত করা

গভীর বোঝাপড়া তৈরি করতে, মাস্কড অটোএনকোডারগুলিকে একটি অপারেটিং মডেল হিসাবে বিবেচনা করুন, একটি একক বৈশিষ্ট্য নয়। পছন্দসই ফলাফলগুলিকে সংজ্ঞায়িত করুন, অনুমানগুলিকে স্পষ্ট করুন এবং সিস্টেমটি নির্ভরযোগ্যভাবে কী করতে পারে তা এখনও বিশেষজ্ঞের বিচারের প্রয়োজন থেকে আলাদা করুন৷

অনুশীলনে, মাস্কড অটোএনকোডারগুলি ব্যবহার করে শক্তিশালী দলগুলি ডেটার গুণমান, আলোর বৈচিত্র্য এবং লেবেলিং সামঞ্জস্যের মতো কার্যক্ষম বাস্তবতার সাথে সঠিকতার ভারসাম্য বজায় রাখে। তারা সুস্পষ্ট সাফল্যের মাপকাঠি নথিভুক্ত করে, বাস্তবসম্মত ডেটা এবং কর্মপ্রবাহের বিরুদ্ধে পরীক্ষা করে এবং এককালীন বেঞ্চমার্ক জয়ের পরিবর্তে পর্যবেক্ষিত ব্যর্থতার ধরণগুলির উপর ভিত্তি করে পুনরাবৃত্তি করে। এখানেই তাত্ত্বিক বোঝাপড়া পণ্য, নীতি এবং অপারেশন জুড়ে টেকসই সক্ষমতায় পরিণত হয়।

ভিজ্যুয়াল এআই স্কেলে পরিদর্শন, সনাক্তকরণ এবং ট্যাগিং কাজগুলি স্বয়ংক্রিয়ভাবে করতে পারে। একই সময়ে, চিত্রের অধিকার এবং সম্মতি আইনি ঝুঁকিতে পরিণত হতে পারে যদি প্রমাণটি অস্পষ্ট হয়। সবচেয়ে স্থিতিস্থাপক পদ্ধতি হল প্রশাসনিক শৃঙ্খলার সাথে পরীক্ষার গতিকে একত্রিত করা: পাইলট চালান, প্রমাণ ক্যাপচার করুন, সিদ্ধান্তের লগ প্রকাশ করুন এবং মডেল আচরণ, ব্যবহারকারীর প্রত্যাশা এবং নিয়ন্ত্রক প্রয়োজনীয়তাগুলি বিকশিত হওয়ার সাথে সাথে অবিচ্ছিন্ন সুরক্ষাগুলি আপডেট করুন।

কৌশলগত প্রভাব

ভিজ্যুয়াল এআই স্কেলে পরিদর্শন, সনাক্তকরণ এবং ট্যাগিং কাজগুলি স্বয়ংক্রিয়ভাবে করতে পারে।

ভিজ্যুয়াল এআই স্কেলে পরিদর্শন, সনাক্তকরণ এবং ট্যাগিং কাজগুলি স্বয়ংক্রিয়ভাবে করতে পারে। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।

সৃজনশীল দলগুলি কম ম্যানুয়াল সংশোধন সহ ধারণাগুলিকে দ্রুত প্রোটোটাইপ করতে পারে।

সৃজনশীল দলগুলি কম ম্যানুয়াল সংশোধন সহ ধারণাগুলিকে দ্রুত প্রোটোটাইপ করতে পারে। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।

অপারেশনগুলি ইমেজ এবং ভিডিও সংকেত ব্যবহার করতে পারে যা আগে প্রক্রিয়া করা কঠিন ছিল।

অপারেশনগুলি ইমেজ এবং ভিডিও সংকেত ব্যবহার করতে পারে যা আগে প্রক্রিয়া করা কঠিন ছিল। উচ্চ-মানের স্থাপনায়, এটি পরিমাপযোগ্য অপারেটিং নিয়ম, মালিকানার সীমানা এবং পুনরাবৃত্ত পর্যালোচনার আচার-অনুষ্ঠানে অনুবাদ করা হয় যাতে দলগুলি অস্পষ্টতার পরিবর্তে আত্মবিশ্বাস বাড়াতে পারে।

মুখোশযুক্ত অটোএনকোডারের ভবিষ্যত

MAE-স্টাইলের মুখোশযুক্ত পুনর্গঠন পদ্ধতি জুড়ে একটি ডিফল্ট প্রাক-প্রশিক্ষণ রেসিপি হয়ে উঠছে। গবেষকরা এটিকে ভিডিওতে প্রসারিত করছেন (স্পেসটাইম কিউব লুকিয়ে রাখা), অডিও স্পেকট্রোগ্রাম, মেডিকেল স্ক্যান এবং স্যাটেলাইট চিত্র, যেখানে লেবেলগুলি দুষ্প্রাপ্য এবং ব্যয়বহুল। মাল্টিমডাল ফাউন্ডেশন মডেল, আরও দক্ষ ডিকোডার, এবং তথ্যপূর্ণ অঞ্চলগুলিকে লক্ষ্য করে অভিযোজিত মাস্কিংয়ের জন্য ভাষার সাথে আরও কঠোর ফিউশন আশা করুন। গণনা বৃদ্ধির সাথে সাথে, বিশাল লেবেলবিহীন চিত্র সংগ্রহগুলিতে মুখোশযুক্ত প্রি-ট্রেইনিং ব্যয়বহুল মানব টীকাটির উপর নির্ভরতা হ্রাস করার সাথে সাথে ডাউনস্ট্রিম নির্ভুলতা উন্নত করা উচিত।

বাস্তব-বিশ্ব বাস্তবায়ন

লক্ষাধিক লেবেলবিহীন ফটোতে একটি ভিশন ট্রান্সফরমার প্রি-ট্রেইনিং, তারপর দৃঢ় নির্ভুলতার সাথে ইমেজনেট শ্রেণীবিভাগের জন্য এটিকে ফাইন-টিউনিং করা

লেবেলবিহীন মেডিকেল স্ক্যান (এক্স-রে, এমআরআই) থেকে শেখার বৈশিষ্ট্য যেখানে বিশেষজ্ঞের টীকা ব্যয়বহুল এবং সীমিত

স্পেসটাইম প্যাচ মাস্ক করে অ্যাকশন-রিকগনিশন মডেল (ভিডিওএমএই)

ভূমি-ব্যবহারের ম্যাপিং এবং ম্যানুয়াল লেবেল ছাড়া শনাক্তকরণ পরিবর্তন করতে স্যাটেলাইট এবং বায়বীয় চিত্রের উপর পূর্ব প্রশিক্ষণ

বাস্তবায়ন নিদর্শন

অনুশীলনে মুখোশযুক্ত অটোএনকোডার

লক্ষাধিক লেবেলবিহীন ফটোতে একটি ভিশন ট্রান্সফরমারকে প্রিট্রেইন করা, তারপর শক্তিশালী নির্ভুলতার সাথে ইমেজনেট শ্রেণীবিভাগের জন্য এটিকে ফাইন-টিউনিং করা।

দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।

অনুশীলনে মুখোশযুক্ত অটোএনকোডার

লেবেলবিহীন মেডিকেল স্ক্যান (এক্স-রে, এমআরআই) থেকে শেখার বৈশিষ্ট্য যেখানে বিশেষজ্ঞের টীকা ব্যয়বহুল এবং সীমিত।

দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।

অনুশীলনে মুখোশযুক্ত অটোএনকোডার

অ্যাকশন-রিকগনিশন মডেল (ভিডিওএমএই) প্রি-ট্রেন করার জন্য স্পেসটাইম প্যাচ মাস্ক করে ভিডিওতে পদ্ধতিটি অভিযোজিত করা।

দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।

অনুশীলনে মুখোশযুক্ত অটোএনকোডার

ভূমি-ব্যবহারের ম্যাপিং এবং ম্যানুয়াল লেবেল ছাড়া সনাক্তকরণ পরিবর্তনকে সমর্থন করার জন্য স্যাটেলাইট এবং বায়বীয় চিত্রগুলিতে প্রাক-প্রশিক্ষণ।

দলগুলি সাধারণত ভাল ফলাফল পায় যখন তারা সামনের মানের থ্রেশহোল্ডগুলিকে সংজ্ঞায়িত করে, প্রান্তের ক্ষেত্রে একটি মানবিক বৃদ্ধির পথ রাখে এবং সময়ের সাথে সাথে উত্পাদনশীলতা লাভ এবং ত্রুটির খরচ উভয়ই ট্র্যাক করে।

ঝুঁকি এবং প্রহরী

!

প্রমাণ অস্পষ্ট হলে ছবির অধিকার এবং সম্মতি আইনি ঝুঁকিতে পরিণত হতে পারে।

!

মডেলের কর্মক্ষমতা আলো, জনসংখ্যা এবং পরিবেশ জুড়ে পরিবর্তিত হতে পারে।

!

আস্থার থ্রেশহোল্ডগুলি পর্যবেক্ষণ করা না হলে মিথ্যা ইতিবাচকগুলি অলক্ষিত হতে পারে।

বাস্তবায়ন রোডম্যাপ

1

নির্ভুলতা, প্রত্যাহার, এবং ত্রুটি খরচের জন্য গ্রহণযোগ্যতার মানদণ্ড নির্ধারণ করুন।

এটিকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউটকে বিরতি দিন, ফাঁকটি বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন৷

2

প্রকৃত উৎপাদন অবস্থার সাথে মেলে এমন ডেটা দিয়ে পরীক্ষা করুন।

এটিকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউটকে বিরতি দিন, ফাঁকটি বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন৷

3

কম-আস্থা বা উচ্চ-প্রভাব ভবিষ্যদ্বাণীর জন্য মানুষের পর্যালোচনা যোগ করুন।

এটিকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউটকে বিরতি দিন, ফাঁকটি বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন৷

4

মডেল ড্রিফ্ট ট্র্যাক করুন এবং ক্যামেরা বা ডেটাসেট পরিবর্তনের পরে পুনরায় যাচাই করুন।

এটিকে একটি প্রমাণ গেট হিসাবে বিবেচনা করুন: যদি মানদণ্ড পূরণ না হয়, রোলআউটকে বিরতি দিন, ফাঁকটি বন্ধ করুন এবং শুধুমাত্র তারপর ব্যবহার প্রসারিত করুন৷

অন্বেষণ চালিয়ে যান

Check your understanding

Test yourself: take the Masked Autoencoders quiz

Start quiz