অটোরিগ্রেসিভ ইমেজ জেনারেশন
অটোরিগ্রেসিভ ইমেজ জেনারেশন একবারে এক টুকরো ছবি তৈরি করে, এর আগে তৈরি হওয়া সবকিছু থেকে প্রতিটি টোকেনের পূর্বাভাস দেয়।
ওভারভিউ
It matters because the same next-token machinery powering language models can produce coherent, controllable images.
গভীর ডুব
অটোরিগ্রেসিভ ইমেজ জেনারেশন একটি ছবিকে একটি ক্রম হিসাবে বিবেচনা করে এবং উপাদান দ্বারা উপাদানটির পূর্বাভাস দেয়, যেখানে প্রতিটি নতুন উপাদান পূর্ববর্তী সমস্তগুলির উপর শর্তযুক্ত। পিক্সেলআরএনএন এবং পিক্সেলসিএনএন-এর মতো প্রাথমিক কাজগুলি এক সময়ে এক কাঁচা পিক্সেল চিত্রের ভবিষ্যদ্বাণী করেছিল, সারি সারি স্ক্যান করা হয়েছিল, যা ধীর কিন্তু তাত্ত্বিকভাবে পরিষ্কার ছিল। আধুনিক সিস্টেমগুলি প্রথমে একটি VQ-VAE-স্টাইল এনকোডার ব্যবহার করে একটি বিচ্ছিন্ন টোকেনের একটি গ্রিডে একটি চিত্রকে সংকুচিত করে, তারপর একটি ট্রান্সফরমার সেই টোকেনগুলিকে বাম থেকে ডানে ভবিষ্যদ্বাণী করে৷ OpenAI এর DALL-E 1 এবং Google এর পার্টি এই রেসিপিটি অনুসরণ করেছে, পিক্সেলে ডিকোড করার আগে একটি টেক্সট প্রম্পটে শর্তযুক্ত ইমেজ টোকেন তৈরি করে। বড় সুবিধা হল সঠিক সম্ভাবনা মডেলিং এবং ভাষার সাথে ভাগ করা একটি ইউনিফাইড আর্কিটেকচার। খরচ অনুক্রমিক, ধীর নমুনা.
প্রযুক্তিগত অন্তর্দৃষ্টি
মডেলটি শর্তসাপেক্ষের একটি পণ্যে সমস্ত টোকেনের যৌথ সম্ভাব্যতাকে ফ্যাক্টরাইজ করে: p(x) = p(x_i দেওয়া x_1...x_{i-1}) এর গুণফল। কার্যকারণ (মুখোশ) মনোযোগ সহ একটি ট্রান্সফরমার প্রয়োগ করে যে প্রতিটি অবস্থান শুধুমাত্র আগের টোকেনগুলি দেখতে পায়। প্রশিক্ষণের সময় এটি শিক্ষক জোর করে সমান্তরালভাবে প্রতিটি টোকেনের ভবিষ্যদ্বাণী করে, তবে অনুমানে এটি অবশ্যই একটি সময়ে একটি টোকেনের নমুনা দিতে হবে, প্রতিটি পিঠে ফিড করে। একটি শেখা কোডবুক ম্যাপ টোকেনগুলি ইমেজ প্যাচগুলিতে ফিরে আসে, যা একটি ডিকোডার চূড়ান্ত পিক্সেলে নমুনা দেয়।
কৌশলগত প্রভাব
গতি এবং স্কেল
ভিজ্যুয়াল এআই স্কেলে পরিদর্শন, সনাক্তকরণ এবং ট্যাগিং কাজগুলি স্বয়ংক্রিয়ভাবে করতে পারে।
পছন্দগুলি তৈরি করুন
সৃজনশীল দলগুলি কম ম্যানুয়াল সংশোধন সহ ধারণাগুলিকে দ্রুত প্রোটোটাইপ করতে পারে।
টিম এবং ওয়ার্কফ্লো
অপারেশনগুলি ইমেজ এবং ভিডিও সংকেত ব্যবহার করতে পারে যা আগে প্রক্রিয়া করা কঠিন ছিল।
অটোরিগ্রেসিভ ইমেজ জেনারেশনের ভবিষ্যত
গতি কেন্দ্রীয় যুদ্ধক্ষেত্র। সমান্তরাল এবং মাস্কড-টোকেন ডিকোডিং (মাস্কজিআইটি, মিউজ) এর মতো কৌশলগুলি একসাথে অনেকগুলি টোকেন তৈরি করে এবং ভাষার মডেলগুলি থেকে ধার করা অনুমানমূলক ডিকোডিং চিত্রগুলির সাথে খাপ খাইয়ে নেওয়া হচ্ছে। গবেষকরা একটি একক অটোরিগ্রেসিভ ব্যাকবোনে পাঠ্য এবং চিত্র টোকেনগুলিকে একীভূত করছেন যাতে একটি মডেল পড়তে এবং আঁকতে পারে, যেমনটি মাল্টিমডাল সিস্টেমে দেখা যায়। হাইব্রিড মডেলগুলি টোকেনগুলির নিয়ন্ত্রণযোগ্যতা এবং প্রসারণের গুণমান ক্যাপচার করার সাথে অটোরিগ্রেসিভ এবং ডিফিউশন ধারণাগুলিকে মিশ্রিত রাখতে আশা করুন৷
বাস্তব-বিশ্ব বাস্তবায়ন
DALL-E 1 স্বয়ংক্রিয়ভাবে একটি টেক্সট ক্যাপশন থেকে বিচ্ছিন্ন ইমেজ টোকেনগুলির একটি গ্রিডের ভবিষ্যদ্বাণী করে ছবি তৈরি করেছে।
Google এর পার্টি বিশদ, প্রম্পট-বিশ্বস্ত দৃশ্যের জন্য একটি অটোরিগ্রেসিভ টেক্সট-টু-ইমেজ ট্রান্সফরমারকে 20 বিলিয়ন প্যারামিটারে স্কেল করেছে।
PixelCNN এবং PixelRNN কাঁচা পিক্সেল-বাই-পিক্সেল জেনারেশন প্রদর্শন করেছে এবং এখনও সম্ভাবনা-ভিত্তিক মডেলের জন্য শিক্ষার বেসলাইন হিসাবে ব্যবহৃত হয়।
মাস্কজিআইটি এবং মিউজ সমান্তরাল মাস্কড-টোকেন ডিকোডিং ব্যবহার করে টোকেন-ভিত্তিক ইমেজ সংশ্লেষণের গতি বাড়ানোর জন্য অটোরিগ্রেসিভ-স্টাইল প্রশিক্ষণ বজায় রাখে।
ঝুঁকি এবং প্রহরী
প্রমাণ অস্পষ্ট হলে ছবির অধিকার এবং সম্মতি আইনি ঝুঁকিতে পরিণত হতে পারে।
মডেলের কর্মক্ষমতা আলো, জনসংখ্যা এবং পরিবেশ জুড়ে পরিবর্তিত হতে পারে।
আস্থার থ্রেশহোল্ডগুলি পর্যবেক্ষণ করা না হলে মিথ্যা ইতিবাচকগুলি অলক্ষিত হতে পারে।
বাস্তবায়ন রোডম্যাপ
নির্ভুলতা, প্রত্যাহার, এবং ত্রুটি খরচের জন্য গ্রহণযোগ্যতার মানদণ্ড নির্ধারণ করুন।
প্রকৃত উৎপাদন অবস্থার সাথে মেলে এমন ডেটা দিয়ে পরীক্ষা করুন।
কম-আস্থা বা উচ্চ-প্রভাব ভবিষ্যদ্বাণীর জন্য মানুষের পর্যালোচনা যোগ করুন।
মডেল ড্রিফ্ট ট্র্যাক করুন এবং ক্যামেরা বা ডেটাসেট পরিবর্তনের পরে পুনরায় যাচাই করুন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Autoregressive Image Generation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
এআই ইমেজ জেনারেশন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Autoregressive Image Generation?
অটোরিগ্রেসিভ ইমেজ জেনারেশন একবারে এক টুকরো ছবি তৈরি করে, এর আগে তৈরি হওয়া সবকিছু থেকে প্রতিটি টোকেনের পূর্বাভাস দেয়। এটি গুরুত্বপূর্ণ কারণ একই পরবর্তী টোকেন মেশিনারি শক্তির ভাষা মডেলগুলি সুসংগত, নিয়ন্ত্রণযোগ্য চিত্র তৈরি করতে পারে।
ইমেজ প্রজন্মের প্রসঙ্গে 'অটোরিগ্রেসিভ' বলতে কী বোঝায়?
অটোরিগ্রেসিভ মডেলগুলি একটি ক্রম হিসাবে চিত্রটিকে ফ্যাক্টরাইজ করে, প্রতিটি টোকেন বা পিক্সেলের পূর্বে উত্পন্ন সমস্ত উপাদানের উপর ভিত্তি করে পূর্বাভাস দেয়।
DALL-E 1-এর মতো আধুনিক অটোরিগ্রেসিভ ইমেজ মডেলগুলি কীভাবে একটি চিত্রকে ভবিষ্যদ্বাণী করার আগে উপস্থাপন করে?
আধুনিক সিস্টেমগুলি বিচ্ছিন্ন টোকেনগুলিতে চিত্রটিকে সংকুচিত করে (প্রায়শই একটি VQ-VAE-স্টাইল এনকোডারের মাধ্যমে), তারপর একটি ট্রান্সফরমারের সাথে সেই টোকেন ক্রমটির পূর্বাভাস দেয়।
কোন প্রাথমিক মডেলগুলি একবারে একটি কাঁচা পিক্সেল ছবি তৈরি করেছিল?
PixelRNN এবং PixelCNN ছিল অগ্রগামী অটোরিগ্রেসিভ মডেল যা পিক্সেল দ্বারা পিক্সেল ছবি স্ক্যান করে এবং ভবিষ্যদ্বাণী করে।
অটোরিগ্রেসিভ জেনারেশনের সময় একটি ট্রান্সফরমার শুধুমাত্র পূর্বের টোকেনগুলিতে উপস্থিত থাকার বিষয়টি কোন প্রক্রিয়া নিশ্চিত করে?
কার্যকারণ মাস্কিং প্রতিটি অবস্থানকে ভবিষ্যত টোকেনগুলিতে উপস্থিত হওয়া থেকে অবরুদ্ধ করে, বাম-থেকে-ডান ফ্যাক্টরাইজেশন প্রয়োগ করে।
অটোরিগ্রেসিভ ইমেজ স্যাম্পলিং এর প্রধান ব্যবহারিক ত্রুটি কি?
যেহেতু প্রতিটি টোকেন পূর্ববর্তীগুলির উপর নির্ভর করে, অনুমান অবশ্যই টোকেন দ্বারা টোকেন চালাতে হবে, যা প্রজন্মকে তুলনামূলকভাবে ধীর করে তোলে।