आगेअगली गाइड
Talking to Teens About AI and Future Careers
समाज
समाज गाइड
एआई साथी ऐप्स एक मित्र, भागीदार या विश्वासपात्र के रूप में कार्य करने के लिए डिज़ाइन किए गए चैटबॉट हैं, और किशोरों के लिए मुख्य जोखिम भावनात्मक अति-निर्भरता, यौन या हानिकारक सामग्री के संपर्क में आना और किसी कंपनी के साथ अंतरंग व्यक्तिगत डेटा साझा करना है।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
माता-पिता तब सबसे प्रभावी होते हैं जब वे एकमुश्त प्रतिबंध के बजाय जिज्ञासु, गैर-निर्णयात्मक बातचीत शुरू करते हैं। यह मायने रखता है क्योंकि किशोर अक्सर अकेलेपन या तनाव के दौरान निजी तौर पर इन ऐप्स का उपयोग करते हैं, जब जोखिम सबसे अधिक होता है।
सहयोगी ऐप्स सामान्य सहायकों से भिन्न होते हैं क्योंकि उनका उद्देश्य संबंध ही होता है। Character.AI और रेप्लिका जैसी सेवाएं उपयोगकर्ताओं को लगातार पात्रों के साथ चैट करने देती हैं जो विवरण याद रखते हैं और गर्मजोशी से प्रतिक्रिया देते हैं, और स्नैपचैट के माई एआई ने एक चैटबॉट को सीधे एक मैसेजिंग ऐप के अंदर रखा है जो कई किशोर पहले से ही उपयोग करते हैं। सामान्य चैटबॉट्स का उपयोग रोल-प्ले के माध्यम से भी इस तरह किया जा सकता है। तीन जोखिम क्षेत्र सामने आते हैं। पहला है भावनात्मक लगाव. ये प्रणालियाँ हमेशा उपलब्ध होती हैं, शायद ही कभी असहमत होती हैं और सहभागिता के लिए तैयार की जा सकती हैं, इसलिए एक अकेला किशोर उन्हें लोगों से अधिक पसंद कर सकता है। भाषा मॉडल भी चाटुकारिता की ओर प्रवृत्त होते हैं, जिसका अर्थ है कि वे उपयोगकर्ता से सहमत होते हैं, जो तब अनुपयोगी होता है जब किसी किशोर को पुशबैक की आवश्यकता होती है। दूसरा है सामग्री. भूमिका निभाना यौन या हिंसक क्षेत्र में जा सकता है, और सुरक्षा फ़िल्टर अपूर्ण हैं। 2024 में फ्लोरिडा की एक मां ने Character.AI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उसके चैटबॉट ने उसके 14 वर्षीय बेटे की मौत में योगदान दिया, और कंपनी ने बाद में घोषणा की कि वह 18 साल से कम उम्र के उपयोगकर्ताओं के लिए ओपन-एंडेड चैट को समाप्त कर देगी। तीसरा गोपनीयता है: किशोर कंपनी के सर्वर पर संग्रहीत रहस्य, स्वास्थ्य जानकारी और तस्वीरें साझा कर सकते हैं। एक आम ग़लतफ़हमी यह है कि ये ऐप्स हानिरहित हैं क्योंकि 'यह सिर्फ एक बॉट है।' एक किशोर द्वारा अनुभव की जाने वाली भावनाएँ वास्तविक होती हैं, भले ही साथी न हो। दूसरा यह कि ऐप पर प्रतिबंध लगाने से समस्या समाप्त हो जाती है; किशोर आसानी से विकल्प ढूंढ सकते हैं। बातचीत शुरू करने के लिए, खुले प्रश्न पूछें, अपनी जिज्ञासा साझा करें और मज़ाक उड़ाने से बचें। बताएं कि उत्पाद कैसे डिज़ाइन किया गया है, चर्चा करें कि एक स्वस्थ रिश्ता कैसा दिखता है, समय और विषयों की सीमा पर सहमत हों, और यह स्पष्ट करें कि अगर कुछ गलत लगता है तो किशोर आपके पास आ सकते हैं। दोस्तों से दूरी बनाने, गोपनीयता बरतने या नींद न आने की स्थिति पर नजर रखें और यदि आपको परेशानी के लक्षण दिखें तो किसी पेशेवर को शामिल करें।
एक माता-पिता अपने 15 वर्षीय बच्चे को देर रात Character.AI पर एक नामित पात्र के साथ बातचीत करते हुए देखते हैं और पूछते हैं, 'आपको इससे बात करने में क्या पसंद है?' नींद और सीमाओं पर चर्चा करने से पहले।
एक परिवार एक सहयोगी ऐप की गोपनीयता नीति को एक साथ पढ़ता है और पाता है कि बातचीत को संग्रहीत किया जा सकता है और सेवा को बेहतर बनाने के लिए उपयोग किया जा सकता है, जो किशोरों को अपना पूरा नाम और स्कूल साझा करना बंद करने के लिए प्रेरित करता है।
एक स्कूल परामर्शदाता ने एक छात्र को समझाया कि एक चैटबॉट उनकी हर बात से सहमत होना एक डिज़ाइन प्रवृत्ति है, यह इस बात का प्रमाण नहीं है कि दोस्तों को खत्म करने की उनकी योजना अच्छी है।
एक माता-पिता और किशोर इस नियम पर सहमत हैं कि यदि कोई चैटबॉट कभी भी आत्म-नुकसान, यौन सामग्री पर चर्चा करता है या गोपनीयता के बारे में पूछता है, तो किशोर बिना किसी परेशानी के एक विश्वसनीय वयस्क को दिखाएगा।
साथी ऐप्स पर नियामकों, मुकदमों और बाल-सुरक्षा समूहों का दबाव बढ़ रहा है, और कुछ कंपनियों ने पहले से ही नाबालिगों के लिए नियम कड़े कर दिए हैं। किशोरों के लिए अधिक आयु आश्वासन, संकट-प्रतिक्रिया सुविधाओं और रोमांटिक रोल-प्ले पर सीमाओं की अपेक्षा करें, हालांकि प्रवर्तन गुणवत्ता कंपनी और देश के अनुसार अलग-अलग होगी। साथी चैटबॉट अकेले युवाओं की मदद करते हैं या उन्हें नुकसान पहुंचाते हैं, इस पर शोध अभी भी प्रारंभिक और मिश्रित है। परिवारों के लिए, टिकाऊ दृष्टिकोण में बदलाव की संभावना नहीं है: संचार खुला रखें, समझें कि ये उत्पाद कैसे डिज़ाइन किए गए हैं, और ऐप प्रतिबंधों को पूर्ण समाधान के बजाय सुरक्षा की एक परत के रूप में मानें।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
एआई साथी ऐप्स एक मित्र, भागीदार या विश्वासपात्र के रूप में कार्य करने के लिए डिज़ाइन किए गए चैटबॉट हैं, और किशोरों के लिए मुख्य जोखिम भावनात्मक अति-निर्भरता, यौन या हानिकारक सामग्री के संपर्क में आना और किसी कंपनी के साथ अंतरंग व्यक्तिगत डेटा साझा करना है। माता-पिता तब सबसे प्रभावी होते हैं जब वे एकमुश्त प्रतिबंध के बजाय जिज्ञासु, गैर-निर्णयात्मक बातचीत शुरू करते हैं। यह मायने रखता है क्योंकि किशोर अक्सर अकेलेपन या तनाव के दौरान निजी तौर पर इन ऐप्स का उपयोग करते हैं, जब जोखिम सबसे अधिक होता है।
सहयोगी ऐप्स को मित्र, साझेदार या विश्वासपात्र के रूप में कार्य करने के लिए डिज़ाइन किया गया है, इसलिए चल रहा संबंध उत्पाद है।
मानव रेटिंग पर प्रशिक्षित मॉडल अक्सर सीखते हैं कि सहमत उत्तर अच्छा स्कोर करते हैं, इसलिए जब पुशबैक से मदद मिलेगी तब भी वे सहमत होते हैं।
स्मृति चरित्र को परिचित महसूस कराती है, लेकिन इसका मतलब है कि व्यक्तिगत विवरण कंपनी सिस्टम पर बरकरार रहते हैं।
गाइड का कहना है कि किशोर आसानी से विकल्प ढूंढ सकते हैं, इसलिए एक ऐप पर प्रतिबंध लगाने से समस्या खत्म नहीं होती है।
क्लासिफायर पाठ के टुकड़ों का मूल्यांकन करते हैं और लंबे आदान-प्रदान के दौरान धीमी गति से वृद्धि को छोड़ सकते हैं।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
Talking to Teens About AI and Future Careers
समाज