পরবর্তী আপপরবর্তী গাইড
প্রতিপক্ষের ডিফিউশন পাতন এবং টার্বো মডেল
টেকনিক্যাল
প্রযুক্তিগত গাইড
ডিফিউশন ইমেজ মডেলগুলি সাধারণত নতুন ছবি তৈরি করে, কিন্তু গবেষণায় দেখা গেছে যে তারা কখনও কখনও নির্দিষ্ট প্রশিক্ষণ চিত্রগুলি প্রায় হুবহু পুনরুত্পাদন করতে পারে, বিশেষ করে এমন চিত্রগুলি যা প্রশিক্ষণের ডেটাতে অনেকবার দেখা যায়।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
একে মুখস্থ বলা হয়। এটি কপিরাইটের জন্য গুরুত্বপূর্ণ, কারণ একটি সুরক্ষিত কাজের কাছাকাছি-অনুলিপি একটি মডেল থেকে বেরিয়ে আসতে পারে, এবং গোপনীয়তার জন্য, কারণ একজন প্রকৃত ব্যক্তির একটি ফটো বা একটি মেডিকেল স্ক্যান পুনরায় করা যেতে পারে।
একটি ডিফিউশন মডেল একটি শোরগোল প্রক্রিয়াকে বিপরীত করতে শেখে: প্রশিক্ষণের সময় এটি শব্দ যুক্ত চিত্রগুলি দেখে এবং সেই শব্দের পূর্বাভাস দিতে এবং অপসারণ করতে শেখে। যদি এটি ভালভাবে সাধারণীকরণ করে, তবে এটি সাধারণভাবে চিত্রগুলির পরিসংখ্যান শিখে এবং নতুন সমন্বয় তৈরি করে। কিন্তু নিউরাল নেটওয়ার্কগুলি পৃথক উদাহরণের সাথেও মানানসই হতে পারে এবং যখন একটি চিত্র শত শত বা হাজার বার ডেটাতে প্রদর্শিত হয়, তখন এটিতে প্রশিক্ষণের ক্ষতি কমানোর সবচেয়ে সস্তা উপায় হল এটি সংরক্ষণ করা। মূল প্রমাণ কার্লিনি এবং সহকর্মীদের 2023 পেপার 'ডিফিউশন মডেল থেকে প্রশিক্ষণের ডেটা বের করা' থেকে এসেছে। তারা সর্বাধিক সদৃশ প্রশিক্ষণ চিত্রের ক্যাপশনের জন্য অনেকগুলি চিত্র তৈরি করেছে এবং ফ্ল্যাগযুক্ত আউটপুটগুলি প্রশিক্ষণের চিত্রের খুব কাছাকাছি ছিল৷ তারা Stable Diffusion থেকে শনাক্তযোগ্য ব্যক্তিদের ফটো সহ প্রায় একশটিরও বেশি অনুরূপ কপি বের করেছে এবং Google-এর Imagen-এ উচ্চতর মুখস্থ হার খুঁজে পেয়েছে। আলাদাভাবে, সোমপল্লী এবং সহকর্মীরা (2022-2023) দেখিয়েছেন যে Stable Diffusion প্রায়শই প্রশিক্ষণ চিত্রের অংশ বা লেআউট অনুলিপি করে এবং অনুলিপি করা ছবি এবং অত্যন্ত নির্দিষ্ট ক্যাপশনের সাথে সংযুক্ত অনুলিপি করে। তিনটি ভুল ধারণা সংশোধনের যোগ্য। প্রথমত, মুখস্থ করা মডেলের স্বাভাবিক আচরণ নয়: নিষ্কাশিত অনুলিপিগুলি সমস্ত প্রজন্মের তুলনায় বিরল। দ্বিতীয়ত, বিরল মানে নিরীহ নয়, কারণ একজন দৃঢ়প্রতিজ্ঞ ব্যবহারকারী ছবিগুলিকে লক্ষ্য করতে পারে যা মুখস্থ হওয়ার সম্ভাবনা বেশি। তৃতীয়ত, মুখস্থ করা শুধুমাত্র সঠিক পিক্সেল অনুলিপি নয়; মডেলগুলি অক্ষর, লোগো, ওয়াটারমার্ক এবং স্বতন্ত্র রচনাগুলি পুনরুত্পাদন করতে পারে। এই প্রমাণগুলি আইনি বিতর্কগুলিতে বৈশিষ্ট্যযুক্ত হয়েছে, যার মধ্যে রয়েছে গেটি ইমেজ বনাম Stability AI এবং অ্যান্ডারসেন বনাম Stability AI এর মতো মামলা, যদিও আদালত কীভাবে মডেল প্রশিক্ষণ এবং আউটপুটগুলির সাথে আচরণ করে তা এখনও কাজ করা হচ্ছে এবং দেশ অনুসারে পরিবর্তিত হয়। গোপনীয়তার জন্য, চিকিত্সক বা ব্যক্তিগত ফটোর মতো ছোট সূক্ষ্ম-টিউনিং ডেটাসেটগুলিতে উদ্বেগ আরও তীক্ষ্ণ হয়, যেখানে প্রতিটি উদাহরণের আরও বেশি প্রভাব রয়েছে।
গবেষকরা একটি ভারী সদৃশ প্রশিক্ষণ চিত্রের সঠিক ক্যাপশন সহ একটি মডেলকে প্রম্পট করে এবং একটি আউটপুট ফিরে পান যা আসল ছবির প্রায় পিক্সেল-অনুরূপ।
একজন ডিজাইনার একটি বিখ্যাত পেইন্টিংয়ের শৈলীর জন্য জিজ্ঞাসা করেন এবং একটি চিত্র পান যা একটি নতুন অংশের পরিবর্তে একটি নির্দিষ্ট শিল্পকর্মের রচনা এবং বিবরণ অনুলিপি করে।
ওয়েব ইমেজে প্রশিক্ষিত একটি ইমেজ জেনারেটর মাঝে মাঝে একটি স্টক এজেন্সির ওয়াটারমার্কের একটি বিকৃত সংস্করণ রেন্ডার করে, এটি পুনরাবৃত্ত উৎসের ছবি থেকে শোষিত নিদর্শন দেখায়।
একটি হাসপাতালের টিম রোগীর স্ক্যানের একটি ছোট সেটে একটি ডিফিউশন মডেলকে ফাইন-টিউনিং করে পরীক্ষা করে যে মডেলটি কোনও ভাগ করার অনুমতি দেওয়ার আগে বাস্তব স্ক্যানগুলির কাছাকাছি-কপিগুলি আউটপুট করতে পারে কিনা৷
ডিডুপ্লিকেশন এবং আউটপুট সাদৃশ্য পরীক্ষাগুলি দায়ী ডেভেলপারদের জন্য আদর্শ অনুশীলন হয়ে উঠছে এবং অনুমান করার সময়ে মুখস্থ প্রম্পটগুলি সনাক্ত করার উপর গবেষণা অব্যাহত রয়েছে। মেডিক্যাল ইমেজিংয়ের মতো সংবেদনশীল ডোমেনের জন্য ডিফারেনশিয়াল গোপনীয়তা ব্যবহারিক হয়ে উঠতে পারে, যদিও মানসম্পন্ন ট্রেডঅফ রয়ে গেছে। আইনি চিত্রটি অমীমাংসিত: বিভিন্ন দেশের আদালত বিবেচনা করছে যে প্রশিক্ষণ এবং ফলাফলগুলি কপিরাইট লঙ্ঘন করে কিনা, এবং ফলাফলগুলি আলাদা হতে পারে। বিকাশকারীরা প্রশিক্ষণের ডেটা উত্সগুলি নথিভুক্ত করার জন্য এবং তারা কীভাবে রিগারজিটেশনের জন্য পরীক্ষা এবং সীমাবদ্ধ করে তা দেখানোর জন্য আরও চাপের সম্মুখীন হতে পারে।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
ডিফিউশন ইমেজ মডেলগুলি সাধারণত নতুন ছবি তৈরি করে, কিন্তু গবেষণায় দেখা গেছে যে তারা কখনও কখনও নির্দিষ্ট প্রশিক্ষণ চিত্রগুলি প্রায় হুবহু পুনরুত্পাদন করতে পারে, বিশেষ করে এমন চিত্রগুলি যা প্রশিক্ষণের ডেটাতে অনেকবার দেখা যায়। একে মুখস্থ বলা হয়। এটি কপিরাইটের জন্য গুরুত্বপূর্ণ, কারণ একটি সুরক্ষিত কাজের কাছাকাছি-অনুলিপি একটি মডেল থেকে বেরিয়ে আসতে পারে, এবং গোপনীয়তার জন্য, কারণ একজন প্রকৃত ব্যক্তির একটি ফটো বা একটি মেডিকেল স্ক্যান পুনরায় করা যেতে পারে।
মেমোরাইজেশন মানে আউটপুট যেগুলো নতুন ইমেজের পরিবর্তে নির্দিষ্ট ট্রেনিং ইমেজের কাছাকাছি-কপি।
একই চিত্রের বারবার এক্সপোজার সেই সঠিক উদাহরণটিকে ক্ষতি কমানোর একটি কার্যকর উপায় করে তোলে।
তারা Stable Diffusion থেকে শনাক্তযোগ্য ব্যক্তিদের ফটো সহ একশোরও বেশি অনুলিপি বের করেছে এবং Imagen-এ উচ্চ হার পেয়েছে।
একটি মুখস্থ চিত্র বীজ নির্বিশেষে ধারাবাহিকভাবে প্রদর্শিত হয়, তাই কাছাকাছি-অভিন্ন আউটপুট পতাকা প্রার্থীদের শক্ত ক্লাস্টার।
নিষ্কাশিত অনুলিপিগুলি সমস্ত আউটপুটের তুলনায় বিরল, তবে আক্রমণকারীরা সম্ভবত মুখস্থ করা চিত্রগুলিতে ফোকাস করতে পারে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
প্রতিপক্ষের ডিফিউশন পাতন এবং টার্বো মডেল
টেকনিক্যাল