প্রযুক্তিগত গাইড

ডিফিউশন মডেলে মুখস্থ করা

ডিফিউশন ইমেজ মডেলগুলি সাধারণত নতুন ছবি তৈরি করে, কিন্তু গবেষণায় দেখা গেছে যে তারা কখনও কখনও নির্দিষ্ট প্রশিক্ষণ চিত্রগুলি প্রায় হুবহু পুনরুত্পাদন করতে পারে, বিশেষ করে এমন চিত্রগুলি যা প্রশিক্ষণের ডেটাতে অনেকবার দেখা যায়।

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min

এই পৃষ্ঠায়3 মিনিট পড়া হয়েছে
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. ডিফিউশন মডেলে স্মৃতির ভবিষ্যত
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

একে মুখস্থ বলা হয়। এটি কপিরাইটের জন্য গুরুত্বপূর্ণ, কারণ একটি সুরক্ষিত কাজের কাছাকাছি-অনুলিপি একটি মডেল থেকে বেরিয়ে আসতে পারে, এবং গোপনীয়তার জন্য, কারণ একজন প্রকৃত ব্যক্তির একটি ফটো বা একটি মেডিকেল স্ক্যান পুনরায় করা যেতে পারে।

গভীর ডুব

একটি ডিফিউশন মডেল একটি শোরগোল প্রক্রিয়াকে বিপরীত করতে শেখে: প্রশিক্ষণের সময় এটি শব্দ যুক্ত চিত্রগুলি দেখে এবং সেই শব্দের পূর্বাভাস দিতে এবং অপসারণ করতে শেখে। যদি এটি ভালভাবে সাধারণীকরণ করে, তবে এটি সাধারণভাবে চিত্রগুলির পরিসংখ্যান শিখে এবং নতুন সমন্বয় তৈরি করে। কিন্তু নিউরাল নেটওয়ার্কগুলি পৃথক উদাহরণের সাথেও মানানসই হতে পারে এবং যখন একটি চিত্র শত শত বা হাজার বার ডেটাতে প্রদর্শিত হয়, তখন এটিতে প্রশিক্ষণের ক্ষতি কমানোর সবচেয়ে সস্তা উপায় হল এটি সংরক্ষণ করা। মূল প্রমাণ কার্লিনি এবং সহকর্মীদের 2023 পেপার 'ডিফিউশন মডেল থেকে প্রশিক্ষণের ডেটা বের করা' থেকে এসেছে। তারা সর্বাধিক সদৃশ প্রশিক্ষণ চিত্রের ক্যাপশনের জন্য অনেকগুলি চিত্র তৈরি করেছে এবং ফ্ল্যাগযুক্ত আউটপুটগুলি প্রশিক্ষণের চিত্রের খুব কাছাকাছি ছিল৷ তারা Stable Diffusion থেকে শনাক্তযোগ্য ব্যক্তিদের ফটো সহ প্রায় একশটিরও বেশি অনুরূপ কপি বের করেছে এবং Google-এর Imagen-এ উচ্চতর মুখস্থ হার খুঁজে পেয়েছে। আলাদাভাবে, সোমপল্লী এবং সহকর্মীরা (2022-2023) দেখিয়েছেন যে Stable Diffusion প্রায়শই প্রশিক্ষণ চিত্রের অংশ বা লেআউট অনুলিপি করে এবং অনুলিপি করা ছবি এবং অত্যন্ত নির্দিষ্ট ক্যাপশনের সাথে সংযুক্ত অনুলিপি করে। তিনটি ভুল ধারণা সংশোধনের যোগ্য। প্রথমত, মুখস্থ করা মডেলের স্বাভাবিক আচরণ নয়: নিষ্কাশিত অনুলিপিগুলি সমস্ত প্রজন্মের তুলনায় বিরল। দ্বিতীয়ত, বিরল মানে নিরীহ নয়, কারণ একজন দৃঢ়প্রতিজ্ঞ ব্যবহারকারী ছবিগুলিকে লক্ষ্য করতে পারে যা মুখস্থ হওয়ার সম্ভাবনা বেশি। তৃতীয়ত, মুখস্থ করা শুধুমাত্র সঠিক পিক্সেল অনুলিপি নয়; মডেলগুলি অক্ষর, লোগো, ওয়াটারমার্ক এবং স্বতন্ত্র রচনাগুলি পুনরুত্পাদন করতে পারে। এই প্রমাণগুলি আইনি বিতর্কগুলিতে বৈশিষ্ট্যযুক্ত হয়েছে, যার মধ্যে রয়েছে গেটি ইমেজ বনাম Stability AI এবং অ্যান্ডারসেন বনাম Stability AI এর মতো মামলা, যদিও আদালত কীভাবে মডেল প্রশিক্ষণ এবং আউটপুটগুলির সাথে আচরণ করে তা এখনও কাজ করা হচ্ছে এবং দেশ অনুসারে পরিবর্তিত হয়। গোপনীয়তার জন্য, চিকিত্সক বা ব্যক্তিগত ফটোর মতো ছোট সূক্ষ্ম-টিউনিং ডেটাসেটগুলিতে উদ্বেগ আরও তীক্ষ্ণ হয়, যেখানে প্রতিটি উদাহরণের আরও বেশি প্রভাব রয়েছে।

বাস্তব-বিশ্ব বাস্তবায়ন

গবেষকরা একটি ভারী সদৃশ প্রশিক্ষণ চিত্রের সঠিক ক্যাপশন সহ একটি মডেলকে প্রম্পট করে এবং একটি আউটপুট ফিরে পান যা আসল ছবির প্রায় পিক্সেল-অনুরূপ।

একজন ডিজাইনার একটি বিখ্যাত পেইন্টিংয়ের শৈলীর জন্য জিজ্ঞাসা করেন এবং একটি চিত্র পান যা একটি নতুন অংশের পরিবর্তে একটি নির্দিষ্ট শিল্পকর্মের রচনা এবং বিবরণ অনুলিপি করে।

ওয়েব ইমেজে প্রশিক্ষিত একটি ইমেজ জেনারেটর মাঝে মাঝে একটি স্টক এজেন্সির ওয়াটারমার্কের একটি বিকৃত সংস্করণ রেন্ডার করে, এটি পুনরাবৃত্ত উৎসের ছবি থেকে শোষিত নিদর্শন দেখায়।

একটি হাসপাতালের টিম রোগীর স্ক্যানের একটি ছোট সেটে একটি ডিফিউশন মডেলকে ফাইন-টিউনিং করে পরীক্ষা করে যে মডেলটি কোনও ভাগ করার অনুমতি দেওয়ার আগে বাস্তব স্ক্যানগুলির কাছাকাছি-কপিগুলি আউটপুট করতে পারে কিনা৷

ডিফিউশন মডেলে স্মৃতির ভবিষ্যত

ডিডুপ্লিকেশন এবং আউটপুট সাদৃশ্য পরীক্ষাগুলি দায়ী ডেভেলপারদের জন্য আদর্শ অনুশীলন হয়ে উঠছে এবং অনুমান করার সময়ে মুখস্থ প্রম্পটগুলি সনাক্ত করার উপর গবেষণা অব্যাহত রয়েছে। মেডিক্যাল ইমেজিংয়ের মতো সংবেদনশীল ডোমেনের জন্য ডিফারেনশিয়াল গোপনীয়তা ব্যবহারিক হয়ে উঠতে পারে, যদিও মানসম্পন্ন ট্রেডঅফ রয়ে গেছে। আইনি চিত্রটি অমীমাংসিত: বিভিন্ন দেশের আদালত বিবেচনা করছে যে প্রশিক্ষণ এবং ফলাফলগুলি কপিরাইট লঙ্ঘন করে কিনা, এবং ফলাফলগুলি আলাদা হতে পারে। বিকাশকারীরা প্রশিক্ষণের ডেটা উত্সগুলি নথিভুক্ত করার জন্য এবং তারা কীভাবে রিগারজিটেশনের জন্য পরীক্ষা এবং সীমাবদ্ধ করে তা দেখানোর জন্য আরও চাপের সম্মুখীন হতে পারে।

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • খরচ ও বাজেট. আর্কিটেকচারের সিদ্ধান্তগুলি বছরের পর বছর ধরে কর্মক্ষমতা এবং অপারেটিং খরচ চালায়।
  • সুস্পষ্ট সিদ্ধান্ত. কারিগরি শিক্ষা দলগুলোকে সঠিক স্ট্যাক বেছে নিতে সাহায্য করে, শুধু নতুনটি নয়।
  • মান নিয়ন্ত্রণ. ভালো ইঞ্জিনিয়ারিং পছন্দ উৎপাদনে নির্ভরযোগ্যতার ঘটনা কমিয়ে দেয়।

জন্য সতর্ক

  • একটি বেঞ্চমার্ক অপ্টিমাইজ করা বৃহত্তর সিস্টেম দুর্বলতা আড়াল করতে পারে।
  • অবকাঠামো এবং রক্ষণাবেক্ষণের খরচ প্রায়ই অবমূল্যায়ন করা হয়।
  • সিস্টেমগুলি আরও জটিল হওয়ার সাথে সাথে সুরক্ষা এবং পর্যবেক্ষণযোগ্যতার ফাঁক বাড়তে পারে।

পরবর্তী পদক্ষেপ

  1. বাস্তবায়নের আগে বিলম্ব, গুণমান এবং খরচের লক্ষ্য নির্ধারণ করুন।
  2. বাস্তবসম্মত লোড এবং ডেটা অবস্থার অধীনে বেঞ্চমার্ক।
  3. ত্রুটি, প্রবাহ, এবং ব্যবহারকারীর প্রভাবের জন্য যন্ত্র পর্যবেক্ষণ।
  4. স্কেল করার আগে রোলব্যাক এবং ঘটনার প্রতিক্রিয়া পাথ প্রস্তুত করুন।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the Memorization in Diffusion Models quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ডিফিউশন মডেলে মেমোরাইজেশন কি?

ডিফিউশন ইমেজ মডেলগুলি সাধারণত নতুন ছবি তৈরি করে, কিন্তু গবেষণায় দেখা গেছে যে তারা কখনও কখনও নির্দিষ্ট প্রশিক্ষণ চিত্রগুলি প্রায় হুবহু পুনরুত্পাদন করতে পারে, বিশেষ করে এমন চিত্রগুলি যা প্রশিক্ষণের ডেটাতে অনেকবার দেখা যায়। একে মুখস্থ বলা হয়। এটি কপিরাইটের জন্য গুরুত্বপূর্ণ, কারণ একটি সুরক্ষিত কাজের কাছাকাছি-অনুলিপি একটি মডেল থেকে বেরিয়ে আসতে পারে, এবং গোপনীয়তার জন্য, কারণ একজন প্রকৃত ব্যক্তির একটি ফটো বা একটি মেডিকেল স্ক্যান পুনরায় করা যেতে পারে।

একটি প্রসারিত মডেলে মুখস্থ কি?

মেমোরাইজেশন মানে আউটপুট যেগুলো নতুন ইমেজের পরিবর্তে নির্দিষ্ট ট্রেনিং ইমেজের কাছাকাছি-কপি।

কেন ডুপ্লিকেটেড ডেটা স্মৃতিশক্তি বাড়ায়?

একই চিত্রের বারবার এক্সপোজার সেই সঠিক উদাহরণটিকে ক্ষতি কমানোর একটি কার্যকর উপায় করে তোলে।

কার্লিনি এবং সহকর্মীদের 2023 কাগজ কী প্রদর্শন করেছিল?

তারা Stable Diffusion থেকে শনাক্তযোগ্য ব্যক্তিদের ফটো সহ একশোরও বেশি অনুলিপি বের করেছে এবং Imagen-এ উচ্চ হার পেয়েছে।

কিভাবে নিষ্কাশন আক্রমণ সম্ভাব্য মুখস্থ ছবি সনাক্ত?

একটি মুখস্থ চিত্র বীজ নির্বিশেষে ধারাবাহিকভাবে প্রদর্শিত হয়, তাই কাছাকাছি-অভিন্ন আউটপুট পতাকা প্রার্থীদের শক্ত ক্লাস্টার।

মুখস্থ সম্পর্কে কোন উক্তিটি সঠিক?

নিষ্কাশিত অনুলিপিগুলি সমস্ত আউটপুটের তুলনায় বিরল, তবে আক্রমণকারীরা সম্ভবত মুখস্থ করা চিত্রগুলিতে ফোকাস করতে পারে।

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →