आगेअगली गाइड
एआई-निर्मित केस उद्धरणों के लिए वकीलों को मंजूरी
समाज
भाषा एआई गाइड
चैटबॉट उद्धरणों का आविष्कार करते हैं क्योंकि वे ऐसा पाठ उत्पन्न करते हैं जो सही दिखता है, न कि वह पाठ जिसे उन्होंने जाँचा है।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
एक मनगढ़ंत संदर्भ में वास्तविक लगने वाले लेखक, एक विश्वसनीय पत्रिका और यहां तक कि एक डीओआई भी हो सकता है। यह मायने रखता है क्योंकि आपके पेपर में एक नकली या गलत तरीके से पेश किया गया स्रोत आपको ग्रेड दे सकता है, आपकी विश्वसनीयता को नुकसान पहुंचा सकता है, या पेशेवर सेटिंग्स में औपचारिक प्रतिबंध लग सकता है।
एक भाषा मॉडल यह अनुमान लगाकर लिखता है कि आगे कौन से शब्द आने की संभावना है। उद्धरण एक बहुत ही पूर्वानुमानित पैटर्न का पालन करते हैं: लेखक के नाम, एक वर्ष, एक शीर्षक, एक पत्रिका, एक खंड, पृष्ठ संख्या और अक्सर एक डीओआई। एक मॉडल ने लाखों वास्तविक संदर्भ देखे हैं, इसलिए यह एक ऐसा संदर्भ तैयार कर सकता है जो पूरी तरह से गठित दिखता है और किसी भी चीज़ की ओर इशारा नहीं करता है। यह जानबूझकर झूठ बोलने वाला मॉडल नहीं है। जब तक यह किसी खोज उपकरण से जुड़ा न हो, इसमें कोई अंतर्निहित चरण नहीं है जो यह जांच सके कि संदर्भ मौजूद है या नहीं। ख़राब AI उद्धरण चार प्रकार से आते हैं। कुछ तो पूरी तरह से बने हुए हैं। कुछ लोग वास्तविक शोधकर्ताओं को ऐसे शीर्षक के साथ मिलाते हैं जो उन्होंने कभी नहीं लिखा। कुछ लोग असली अखबार का नाम बताते हैं लेकिन विवरण गलत लिख देते हैं, जैसे कि वर्ष, पत्रिका या पृष्ठ संख्या। पहचानना सबसे कठिन प्रकार एक वास्तविक, सही ढंग से उद्धृत पेपर है जो यह नहीं कहता है कि चैटबॉट क्या कहता है। परिणाम वास्तविक हैं. न्यूयॉर्क की संघीय अदालत में 2023 के माता बनाम एवियनका मामले में, वकीलों ने ChatGPT द्वारा आविष्कार किए गए अदालती मामलों का हवाला देते हुए एक संक्षिप्त याचिका दायर की, और न्यायाधीश ने उन्हें मंजूरी दे दी। सबमिट करने से पहले स्रोतों की जांच करने के लिए, पहले Google Scholar या अपनी लाइब्रेरी के डेटाबेस में उद्धरणों में सटीक शीर्षक खोजें। दूसरा, यदि कोई DOI है, तो उसे doi.org के माध्यम से खोलें और पुष्टि करें कि जिस पेपर पर वह जाता है उसका शीर्षक और लेखक समान हैं। तीसरा, जांचें कि लेखक, वर्ष और पत्रिका सभी मेल खाते हैं। चौथा, स्रोत खोलें और वह अंश ढूंढें जो आपके दावे का समर्थन करता हो। पांचवां, यदि आप किसी स्रोत को सत्यापित नहीं कर सकते, तो उसे हटा दें। एक सामान्य गलती चैटबॉट से अपने स्वयं के उद्धरण की पुष्टि करने के लिए कहना है। यह उतनी ही आसानी से आत्मविश्वासपूर्ण 'हां' उत्पन्न कर सकता है जितनी आसानी से इसने नकली संदर्भ उत्पन्न किया था। वेब पर खोज करने वाले उपकरण जोखिम को कम करते हैं लेकिन इसे दूर नहीं करते हैं, क्योंकि वे अभी भी वास्तविक स्रोत द्वारा कही गई बात को गलत बता सकते हैं।
एक छात्र चैटबॉट से स्क्रीन टाइम और नींद पर पांच अध्ययनों के बारे में पूछता है। जब वह उद्धरणों में सटीक शीर्षकों के लिए Google Scholar खोजती है, तो उनमें से दो मौजूद नहीं हैं, भले ही लेखक वास्तविक नींद शोधकर्ता हैं।
एक नर्सिंग छात्र को डीओआई के साथ एक संदर्भ मिलता है। जब वह doi.org खोलता है, तो DOI एक असंबद्ध इंजीनियरिंग पेपर पर जाता है, जो उसे बताता है कि उद्धरण प्रशंसनीय टुकड़ों से एक साथ रखा गया था।
इतिहास का एक छात्र एआई खोज टूल का उपयोग करता है जो एक वास्तविक जर्नल लेख से लिंक करता है। जब वह इसे पढ़ती है, तो लेख चैटबॉट के सारांश में दावा किए गए दशक से भिन्न दशक पर चर्चा करता है।
एक स्नातक छात्र चैटबॉट से पूछता है कि क्या उसने जो उद्धरण दिया है वह वास्तविक है, और वह आत्मविश्वास से हाँ कहता है। वह वैसे भी लाइब्रेरी कैटलॉग की जाँच करती है और उसे ऐसी कोई किताब नहीं मिलती है।
अब अधिक चैटबॉट डिफ़ॉल्ट रूप से वेब पर खोज करते हैं और लिंक दिखाते हैं, जिससे रोजमर्रा के उपयोग में पूरी तरह से बने संदर्भ कम हो जाते हैं। हालाँकि, गलत वर्गीकरण एक कठिन समस्या बनी हुई है, क्योंकि यह निर्णय लेने के लिए सावधानीपूर्वक पढ़ने की आवश्यकता है कि कोई स्रोत वास्तव में किसी विशिष्ट दावे का समर्थन करता है या नहीं। प्रकाशक, पुस्तकालय और उद्धरण उपकरण स्वचालित रूप से संदर्भों की जाँच करने के बेहतर तरीके बना रहे हैं, और कुछ लेखन उपकरण आपके सबमिट करने से पहले अप्राप्य उद्धरणों को चिह्नित कर सकते हैं। इनमें से कोई भी मूल आदत को प्रतिस्थापित नहीं करता है: स्रोत ढूंढें, इसे खोलें और संबंधित अनुच्छेद को स्वयं पढ़ें। स्कूल संभवतः हर उद्धरण के लिए छात्रों को ज़िम्मेदार ठहराते रहेंगे, चाहे जो भी उपकरण सुझाया गया हो।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
चैटबॉट उद्धरणों का आविष्कार करते हैं क्योंकि वे ऐसा पाठ उत्पन्न करते हैं जो सही दिखता है, न कि वह पाठ जिसे उन्होंने जाँचा है। एक मनगढ़ंत संदर्भ में वास्तविक लगने वाले लेखक, एक विश्वसनीय पत्रिका और यहां तक कि एक डीओआई भी हो सकता है। यह मायने रखता है क्योंकि आपके पेपर में एक नकली या गलत तरीके से पेश किया गया स्रोत आपको ग्रेड दे सकता है, आपकी विश्वसनीयता को नुकसान पहुंचा सकता है, या पेशेवर सेटिंग्स में औपचारिक प्रतिबंध लग सकता है।
खोज चरण के बिना, मॉडल ऐसे पाठ का निर्माण करता है जो उद्धरण के पैटर्न में फिट बैठता है, बिना किसी अंतर्निहित जांच के कि संदर्भ मौजूद है।
जब पेपर मौजूद हो और विवरण सही हो, तो उसे पढ़ने से ही पता चलता है कि यह वह नहीं कहता जो चैटबॉट ने दावा किया है।
वकीलों ने ChatGPT द्वारा बनाए गए अदालती मामलों की एक संक्षिप्त जानकारी दायर की और अदालत ने उन्हें मंजूरी दे दी।
एक बना हुआ डीओआई एक अलग, वास्तविक पेपर खोल सकता है, इसलिए आपको शीर्षक और लेखकों की तुलना करनी होगी, न कि केवल यह देखना होगा कि लिंक काम करता है।
यदि किसी स्रोत को सत्यापित नहीं किया जा सकता है, तो यह आपके काम में शामिल नहीं है। गाइड इसे हटाने के लिए कहता है।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
एआई-निर्मित केस उद्धरणों के लिए वकीलों को मंजूरी
समाज