तकनीकी गाइड

प्रसार मॉडल में स्मरण

डिफ्यूज़न इमेज मॉडल आमतौर पर नई तस्वीरें बनाते हैं, लेकिन शोध से पता चला है कि वे कभी-कभी विशिष्ट प्रशिक्षण छवियों को लगभग हूबहू दोहरा सकते हैं, खासकर उन छवियों को जो प्रशिक्षण डेटा में कई बार दिखाई दी थीं।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर3 मिनट लाल
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. डिफ्यूज़न मॉडल में मेमोराइज़ेशन (रटने की प्रवृत्ति) का भविष्य
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

इसे मेमोराइज़ेशन कहा जाता है। यह कॉपीराइट के लिए मायने रखता है, क्योंकि किसी संरक्षित कार्य की लगभग-नकल किसी मॉडल से बाहर आ सकती है, और गोपनीयता के लिए, क्योंकि किसी वास्तविक व्यक्ति की तस्वीर या मेडिकल स्कैन को फिर से बाहर उगला जा सकता है।

गहरा गोता

A diffusion model learns to reverse a noising process: during training it sees images with noise added and learns to predict and remove that noise. If it generalizes well, it learns the statistics of images in general and produces new combinations. But neural networks can also fit individual examples, and when one image appears hundreds or thousands of times in the data, the cheapest way to reduce training loss on it is to store it. The key evidence comes from Carlini and colleagues' 2023 paper 'Extracting Training Data from Diffusion Models'. They generated many images for captions of the most duplicated training images and flagged outputs that were extremely close to a training image. They extracted over a hundred near-identical copies from Stable Diffusion, including photos of identifiable people, and found higher memorization rates in Google's Imagen. Separately, Somepalli and colleagues (2022-2023) showed that Stable Diffusion outputs frequently copied parts or layouts of training images, and linked copying to duplicated images and highly specific captions. Three misconceptions are worth correcting. First, memorization is not the model's normal behavior: extracted copies are rare relative to all generations. Second, rare does not mean harmless, because a determined user can target the images most likely to be memorized. Third, memorization is not only exact pixel copying; models can reproduce characters, logos, watermarks and distinctive compositions. This evidence has featured in legal debates, including lawsuits such as Getty Images v. Stability AI and Andersen v. Stability AI, although how courts treat model training and outputs is still being worked out and varies by country. For privacy, the concern is sharper in small fine-tuning datasets, such as medical or personal photos, where each example has more influence.

वास्तविक विश्व कार्यान्वयन

शोधकर्ता एक भारी रूप से डुप्लिकेट की गई प्रशिक्षण छवि के सटीक कैप्शन के साथ एक मॉडल को संकेत देते हैं और एक ऐसा आउटपुट प्राप्त करते हैं जो मूल तस्वीर के लगभग पिक्सेल-समान होता है।

एक डिज़ाइनर एक प्रसिद्ध पेंटिंग की शैली मांगता है और एक ऐसी छवि प्राप्त करता है जो किसी नए टुकड़े के बजाय किसी विशिष्ट कलाकृति की संरचना और विवरण की नकल करती है।

वेब छवियों पर प्रशिक्षित एक छवि जनरेटर कभी-कभी स्टॉक एजेंसी के वॉटरमार्क का विकृत संस्करण प्रस्तुत करता है, जो यह दर्शाता है कि इसने बार-बार आने वाले स्रोत चित्रों से पैटर्न को आत्मसात कर लिया है।

मरीजों के स्कैन के एक छोटे सेट पर डिफ्यूज़न मॉडल को फ़ाइन-ट्यून करने वाली एक अस्पताल टीम यह परीक्षण करती है कि क्या मॉडल किसी भी शेयरिंग की अनुमति दिए जाने से पहले वास्तविक स्कैन की लगभग-नकल आउटपुट कर सकता है।

डिफ्यूज़न मॉडल में मेमोराइज़ेशन (रटने की प्रवृत्ति) का भविष्य

जिम्मेदार डेवलपर्स के लिए डिडुप्लीकेशन और आउटपुट समानता की जाँच एक मानक अभ्यास बनती जा रही है, और अनुमान के समय मेमोराइज़ किए गए प्रॉम्प्ट का पता लगाने पर शोध जारी है। मेडिकल इमेजिंग जैसे संवेदनशील डोमेन के लिए डिफरेंशियल प्राइवेसी व्यावहारिक हो सकती है, हालाँकि गुणवत्ता से जुड़े समझौते अभी भी बने हुए हैं। कानूनी तस्वीर अनिश्चित है: विभिन्न देशों की अदालतें इस बात पर विचार कर रही हैं कि क्या प्रशिक्षण और आउटपुट कॉपीराइट का उल्लंघन करते हैं, और परिणाम अलग-अलग हो सकते हैं। डेवलपर्स को प्रशिक्षण डेटा स्रोतों का दस्तावेजीकरण करने और यह दिखाने के लिए अधिक दबाव का सामना करना पड़ सकता है कि वे पुनरुत्थान (regurgitation) के लिए कैसे परीक्षण करते हैं और इसे कैसे सीमित करते हैं।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
  • स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
  • गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।

का ध्यान रखें

  • एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
  • बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
  • जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।

अगले चरण

  1. कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
  2. यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
  3. त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
  4. स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

डिफ्यूज़न मॉडल में मेमोराइज़ेशन क्विज़ लें

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

डिफ्यूज़न मॉडल में मेमोराइज़ेशन क्या है?

डिफ्यूज़न इमेज मॉडल आमतौर पर नई तस्वीरें बनाते हैं, लेकिन शोध से पता चला है कि वे कभी-कभी विशिष्ट प्रशिक्षण छवियों को लगभग हूबहू दोहरा सकते हैं, खासकर उन छवियों को जो प्रशिक्षण डेटा में कई बार दिखाई दी थीं। इसे मेमोराइज़ेशन कहा जाता है। यह कॉपीराइट के लिए मायने रखता है, क्योंकि किसी संरक्षित कार्य की लगभग-नकल किसी मॉडल से बाहर आ सकती है, और गोपनीयता के लिए, क्योंकि किसी वास्तविक व्यक्ति की तस्वीर या मेडिकल स्कैन को फिर से बाहर उगला जा सकता है।

डिफ्यूज़न मॉडल में मेमोराइज़ेशन क्या है?

मेमोराइज़ेशन का अर्थ है ऐसे आउटपुट जो नई छवियों के बजाय विशेष प्रशिक्षण छवियों की लगभग-नकल होते हैं।

डुप्लिकेट डेटा मेमोराइज़ेशन को क्यों बढ़ाता है?

एक ही छवि के बार-बार संपर्क में आने से उस सटीक उदाहरण को फिट करना लॉस (loss) को कम करने का एक प्रभावी तरीका बन जाता है।

कार्लिनी और सहयोगियों के 2023 के शोध पत्र ने क्या प्रदर्शित किया?

उन्होंने Stable Diffusion से सौ से अधिक लगभग-नकल निकालीं, जिसमें पहचान योग्य लोगों की तस्वीरें शामिल थीं, और Imagen में उच्च दर पाईं।

निष्कर्षण हमले (extraction attack) ने संभवतः मेमोराइज़ की गई छवियों की पहचान कैसे की?

एक मेमोराइज़ की गई छवि सीड की परवाह किए बिना लगातार दिखाई देती है, इसलिए लगभग-समान आउटपुट के कड़े क्लस्टर उम्मीदवारों को चिह्नित करते हैं।

मेमोराइज़ेशन के बारे में कौन सा कथन सही है?

सभी आउटपुट की तुलना में निकाली गई प्रतियां दुर्लभ हैं, लेकिन हमलावर उन छवियों पर ध्यान केंद्रित कर सकते हैं जिन्हें मेमोराइज़ किए जाने की सबसे अधिक संभावना है।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →