समाज गाइड

एआई चैटबॉट्स, बच्चे और ऑनलाइन सुरक्षा कानून

नाबालिगों द्वारा उपयोग किए जाने वाले एआई चैटबॉट कई ओवरलैपिंग प्रकार के कानून के अंतर्गत आते हैं।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर4 मिनट पढ़ें
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. एआई चैटबॉट्स, बच्चों और ऑनलाइन सुरक्षा कानूनों का भविष्य
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

यूएस COPPA जैसे बच्चों के गोपनीयता कानून, यूके ऑनलाइन सुरक्षा अधिनियम जैसे प्लेटफ़ॉर्म सुरक्षा नियम और कैलिफ़ोर्निया के SB 243 जैसे साथी चैटबॉट कानूनों की एक नई लहर है। साथ में वे उम्र की जाँच, यह खुलासा करने के लिए सेवाओं को आगे बढ़ाते हैं कि उपयोगकर्ता AI से बात कर रहा है, और आत्म-नुकसान वार्तालापों के लिए प्रोटोकॉल। ये नियम मायने रखते हैं क्योंकि साथी-शैली के चैटबॉट युवा उपयोगकर्ताओं के साथ गहन संबंध बना सकते हैं, और मुकदमों ने उनमें से कुछ रिश्तों को गंभीर नुकसान से जोड़ा है।

गहरा गोता

कोई भी एकल कानून एआई चैटबॉट्स और बच्चों को कवर नहीं करता है; कई व्यवस्थाएँ ओवरलैप होती हैं। गोपनीयता: संघीय व्यापार आयोग द्वारा लागू यूएस चिल्ड्रेन ऑनलाइन प्राइवेसी प्रोटेक्शन एक्ट (COPPA), 13 वर्ष से कम उम्र के बच्चों के लिए निर्देशित ऑनलाइन सेवाओं और उन ऑपरेटरों पर लागू होता है जिनके पास वास्तविक ज्ञान है कि वे ऐसे बच्चों का डेटा एकत्र करते हैं। व्यक्तिगत जानकारी एकत्र करने से पहले उन्हें सत्यापन योग्य माता-पिता की सहमति की आवश्यकता होती है। FTC ने 2025 में COPPA नियम संशोधनों को अंतिम रूप दिया, जिससे तीसरे पक्ष के साझाकरण और डेटा प्रतिधारण पर सीमाएं सख्त हो गईं। सितंबर 2025 में इसने 6(बी) जांच भी शुरू की कि कैसे कई प्रमुख कंपनियों के सहयोगी चैटबॉट बच्चों और किशोरों को प्रभावित करते हैं। प्लेटफ़ॉर्म सुरक्षा: यूके ऑनलाइन सुरक्षा अधिनियम 2023 उपयोगकर्ता-से-उपयोगकर्ता और खोज सेवाओं पर शुल्क लगाता है, और ऑफकॉम ने कहा है कि जेनरेटर एआई चैटबॉट दायरे में आ सकते हैं। जुलाई 2025 से, बच्चों द्वारा उपयोग की जाने वाली सेवाओं को अक्सर "अत्यधिक प्रभावी" आयु आश्वासन के माध्यम से आत्महत्या या आत्म-नुकसान को प्रोत्साहित करने वाली सामग्री सहित सबसे हानिकारक सामग्री से उनकी रक्षा करनी चाहिए। सहयोगी चैटबॉट कानून: कैलिफोर्निया का एसबी 243, अक्टूबर 2025 में हस्ताक्षरित और जनवरी 2026 से प्रभावी, सहयोगी चैटबॉट्स को लक्षित करता है। ऑपरेटरों को यह खुलासा करना होगा कि चैटबॉट एआई है जहां उपयोगकर्ताओं को गुमराह किया जा सकता है, और आत्महत्या या आत्महत्या को प्रोत्साहित करने वाली सामग्री को रोकने और उपयोगकर्ताओं को संकट सेवाओं के लिए संदर्भित करने के लिए प्रोटोकॉल बनाए रखना चाहिए। नाबालिग माने जाने वाले उपयोगकर्ताओं के लिए, चैटबॉट को समय-समय पर उन्हें ब्रेक लेने के लिए याद दिलाना चाहिए और यह मानवीय नहीं है, और ऑपरेटर को स्पष्ट यौन सामग्री को रोकने के लिए उचित उपाय करने चाहिए। इसके लिए वार्षिक रिपोर्टिंग की भी आवश्यकता होती है और निजी मुकदमों की अनुमति मिलती है। न्यूयॉर्क ने 2025 में अपना स्वयं का एआई साथी सुरक्षा उपाय लागू किया। मुकदमा: गार्सिया बनाम कैरेक्टर टेक्नोलॉजीज में, 2024 में दायर, फ्लोरिडा की एक मां ने आरोप लगाया कि एक Character.AI चैटबॉट ने उसके बेटे की मौत में योगदान दिया; 2025 में अदालत ने अधिकांश दावों को आगे बढ़ने की अनुमति दी। 2025 में दायर राइन बनाम OpenAI, ChatGPT के बारे में इसी तरह के आरोप लगाता है। एक आम ग़लतफ़हमी यह है कि "13+" चेकबॉक्स से मामला सुलझ जाता है। इनमें से कई नियम वास्तविक ज्ञान, संभावित दर्शकों, या उचित उपायों पर आधारित हैं।

वास्तविक विश्व कार्यान्वयन

अमेरिका में 13 वर्ष से कम उम्र के बच्चों के लिए होमवर्क-हेल्प चैटबॉट को बच्चे की व्यक्तिगत जानकारी एकत्र करने से पहले सत्यापन योग्य माता-पिता की सहमति लेनी होगी, जैसा कि COPPA की आवश्यकता है।

कैलिफ़ोर्निया में उपयोग किए जाने वाले एक साथी चैटबॉट ऐप को उपयोगकर्ताओं को यह बताना होगा कि जब एक उचित व्यक्ति को गुमराह किया जा सकता है तो यह मानवीय नहीं है। इसे एक प्रोटोकॉल भी बनाए रखना चाहिए जो आत्मघाती विचार व्यक्त करने वाले उपयोगकर्ताओं को संकटग्रस्त सेवाओं की ओर इंगित करता हो।

एक सेवा जो यूके के उपयोगकर्ताओं को एआई-जनरेटेड सामग्री को एक-दूसरे के साथ साझा करने देती है, संभवतः ऑनलाइन सुरक्षा अधिनियम के अंतर्गत आती है। बच्चों को सबसे हानिकारक सामग्री से दूर रखने के लिए अत्यधिक प्रभावी आयु आश्वासन की आवश्यकता हो सकती है।

आत्महत्या से मरने वाले एक किशोर के परिवार ने एक चैटबॉट निर्माता पर मुकदमा दायर किया। मुकदमे में तर्क दिया गया है कि उत्पाद का डिज़ाइन, न कि जैसा उसने कहा गया था, दोषपूर्ण था और इससे संभावित नुकसान हुआ।

एआई चैटबॉट्स, बच्चों और ऑनलाइन सुरक्षा कानूनों का भविष्य

अधिक अमेरिकी राज्य साथी चैटबॉट्स पर कानूनों पर विचार कर रहे हैं, और इस बात पर बहस चल रही है कि क्या संघीय नियमों को उन्हें छूट देनी चाहिए। अदालतें अभी भी यह तय कर रही हैं कि क्या चैटबॉट आउटपुट को संरक्षित भाषण के रूप में गिना जाएगा या एक उत्पाद के रूप में जो दोषपूर्ण हो सकता है। शुरुआती फैसलों ने कुछ दावों को आगे बढ़ने दिया है, लेकिन सवाल सुलझे नहीं हैं। कंपनियों ने अभिभावक नियंत्रण और किशोर मोड जोड़े हैं, और कुछ ने नाबालिगों के लिए ओपन-एंडेड चैट को प्रतिबंधित कर दिया है। नियामकों से अपेक्षा करें कि वे सबूत मांगें कि आयु आश्वासन और आत्म-नुकसान प्रोटोकॉल वास्तव में काम करते हैं, न कि केवल एक नीति मौजूद है।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • जोखिम और सुरक्षा. विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।
  • स्पष्ट निर्णय. सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।
  • प्रचार के माध्यम से काटना. स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।

का ध्यान रखें

  • अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।
  • उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।
  • गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।

अगले चरण

  1. उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।
  2. पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।
  3. विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।
  4. एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

Take the AI Chatbots, Children and Online Safety Laws quiz

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

एआई चैटबॉट्स, बच्चे और ऑनलाइन सुरक्षा कानून क्या हैं?

नाबालिगों द्वारा उपयोग किए जाने वाले एआई चैटबॉट कई ओवरलैपिंग प्रकार के कानून के अंतर्गत आते हैं। यूएस COPPA जैसे बच्चों के गोपनीयता कानून, यूके ऑनलाइन सुरक्षा अधिनियम जैसे प्लेटफ़ॉर्म सुरक्षा नियम और कैलिफ़ोर्निया के SB 243 जैसे साथी चैटबॉट कानूनों की एक नई लहर है। साथ में वे उम्र की जाँच, यह खुलासा करने के लिए सेवाओं को आगे बढ़ाते हैं कि उपयोगकर्ता AI से बात कर रहा है, और आत्म-नुकसान वार्तालापों के लिए प्रोटोकॉल। ये नियम मायने रखते हैं क्योंकि साथी-शैली के चैटबॉट युवा उपयोगकर्ताओं के साथ गहन संबंध बना सकते हैं, और मुकदमों ने उनमें से कुछ रिश्तों को गंभीर नुकसान से जोड़ा है।

COPPA के तहत, 13 वर्ष से कम उम्र के बच्चे से व्यक्तिगत जानकारी एकत्र करने से पहले कवर की गई सेवा को क्या मिलना चाहिए?

किसी सेवा द्वारा 13 वर्ष से कम उम्र के बच्चों से व्यक्तिगत जानकारी एकत्र करने से पहले COPPA को सत्यापन योग्य माता-पिता की सहमति की आवश्यकता होती है, और FTC इसे लागू करता है।

यूके का कौन सा नियामक ऑनलाइन सुरक्षा अधिनियम लागू करता है और उसने कहा है कि जेनरेटिव एआई चैटबॉट इसके दायरे में आ सकते हैं?

ऑफकॉम ऑनलाइन सुरक्षा अधिनियम लागू करता है और कहा है कि जेनरेटिव एआई चैटबॉट दायरे में हो सकते हैं।

साथी चैटबॉट्स के लिए कैलिफ़ोर्निया के एसबी 243 में कौन सी आवश्यकता शामिल है?

एसबी 243 को संकट रेफरल, एआई प्रकटीकरण और ज्ञात नाबालिगों के लिए अतिरिक्त सुरक्षा के साथ आत्म-नुकसान प्रोटोकॉल की आवश्यकता होती है। यह नाबालिगों के लिए चैटबॉट्स पर प्रतिबंध नहीं लगाता है।

एसबी 243 उन उपयोगकर्ताओं के लिए क्या आवश्यक है जिनके बारे में ऑपरेटर जानता है कि वे नाबालिग हैं?

ज्ञात नाबालिगों के लिए, कानून स्पष्ट यौन सामग्री के विरुद्ध अनुस्मारक और उपाय जोड़ता है।

अनुपालन के लिए अक्सर "13+" चेकबॉक्स पर्याप्त क्यों नहीं होता है?

कानूनी कर्तव्य अक्सर इस बात पर निर्भर करते हैं कि कोई सेवा क्या जानती है या उसे इसका उपयोग करने वाले के बारे में क्या अपेक्षा करनी चाहिए, इसलिए अकेले स्व-घोषणा कमजोर है।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →