भाषा एआई गाइड

एआई से नकली उद्धरणों का पता लगाना

चैटबॉट उद्धरणों का आविष्कार करते हैं क्योंकि वे ऐसा पाठ उत्पन्न करते हैं जो सही दिखता है, न कि वह पाठ जिसे उन्होंने जाँचा है।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर4 मिनट पढ़ें
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. एआई से नकली उद्धरणों का पता लगाने का भविष्य
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

एक मनगढ़ंत संदर्भ में वास्तविक लगने वाले लेखक, एक विश्वसनीय पत्रिका और यहां तक ​​कि एक डीओआई भी हो सकता है। यह मायने रखता है क्योंकि आपके पेपर में एक नकली या गलत तरीके से पेश किया गया स्रोत आपको ग्रेड दे सकता है, आपकी विश्वसनीयता को नुकसान पहुंचा सकता है, या पेशेवर सेटिंग्स में औपचारिक प्रतिबंध लग सकता है।

गहरा गोता

एक भाषा मॉडल यह अनुमान लगाकर लिखता है कि आगे कौन से शब्द आने की संभावना है। उद्धरण एक बहुत ही पूर्वानुमानित पैटर्न का पालन करते हैं: लेखक के नाम, एक वर्ष, एक शीर्षक, एक पत्रिका, एक खंड, पृष्ठ संख्या और अक्सर एक डीओआई। एक मॉडल ने लाखों वास्तविक संदर्भ देखे हैं, इसलिए यह एक ऐसा संदर्भ तैयार कर सकता है जो पूरी तरह से गठित दिखता है और किसी भी चीज़ की ओर इशारा नहीं करता है। यह जानबूझकर झूठ बोलने वाला मॉडल नहीं है। जब तक यह किसी खोज उपकरण से जुड़ा न हो, इसमें कोई अंतर्निहित चरण नहीं है जो यह जांच सके कि संदर्भ मौजूद है या नहीं। ख़राब AI उद्धरण चार प्रकार से आते हैं। कुछ तो पूरी तरह से बने हुए हैं। कुछ लोग वास्तविक शोधकर्ताओं को ऐसे शीर्षक के साथ मिलाते हैं जो उन्होंने कभी नहीं लिखा। कुछ लोग असली अखबार का नाम बताते हैं लेकिन विवरण गलत लिख देते हैं, जैसे कि वर्ष, पत्रिका या पृष्ठ संख्या। पहचानना सबसे कठिन प्रकार एक वास्तविक, सही ढंग से उद्धृत पेपर है जो यह नहीं कहता है कि चैटबॉट क्या कहता है। परिणाम वास्तविक हैं. न्यूयॉर्क की संघीय अदालत में 2023 के माता बनाम एवियनका मामले में, वकीलों ने ChatGPT द्वारा आविष्कार किए गए अदालती मामलों का हवाला देते हुए एक संक्षिप्त याचिका दायर की, और न्यायाधीश ने उन्हें मंजूरी दे दी। सबमिट करने से पहले स्रोतों की जांच करने के लिए, पहले Google Scholar या अपनी लाइब्रेरी के डेटाबेस में उद्धरणों में सटीक शीर्षक खोजें। दूसरा, यदि कोई DOI है, तो उसे doi.org के माध्यम से खोलें और पुष्टि करें कि जिस पेपर पर वह जाता है उसका शीर्षक और लेखक समान हैं। तीसरा, जांचें कि लेखक, वर्ष और पत्रिका सभी मेल खाते हैं। चौथा, स्रोत खोलें और वह अंश ढूंढें जो आपके दावे का समर्थन करता हो। पांचवां, यदि आप किसी स्रोत को सत्यापित नहीं कर सकते, तो उसे हटा दें। एक सामान्य गलती चैटबॉट से अपने स्वयं के उद्धरण की पुष्टि करने के लिए कहना है। यह उतनी ही आसानी से आत्मविश्वासपूर्ण 'हां' उत्पन्न कर सकता है जितनी आसानी से इसने नकली संदर्भ उत्पन्न किया था। वेब पर खोज करने वाले उपकरण जोखिम को कम करते हैं लेकिन इसे दूर नहीं करते हैं, क्योंकि वे अभी भी वास्तविक स्रोत द्वारा कही गई बात को गलत बता सकते हैं।

वास्तविक विश्व कार्यान्वयन

एक छात्र चैटबॉट से स्क्रीन टाइम और नींद पर पांच अध्ययनों के बारे में पूछता है। जब वह उद्धरणों में सटीक शीर्षकों के लिए Google Scholar खोजती है, तो उनमें से दो मौजूद नहीं हैं, भले ही लेखक वास्तविक नींद शोधकर्ता हैं।

एक नर्सिंग छात्र को डीओआई के साथ एक संदर्भ मिलता है। जब वह doi.org खोलता है, तो DOI एक असंबद्ध इंजीनियरिंग पेपर पर जाता है, जो उसे बताता है कि उद्धरण प्रशंसनीय टुकड़ों से एक साथ रखा गया था।

इतिहास का एक छात्र एआई खोज टूल का उपयोग करता है जो एक वास्तविक जर्नल लेख से लिंक करता है। जब वह इसे पढ़ती है, तो लेख चैटबॉट के सारांश में दावा किए गए दशक से भिन्न दशक पर चर्चा करता है।

एक स्नातक छात्र चैटबॉट से पूछता है कि क्या उसने जो उद्धरण दिया है वह वास्तविक है, और वह आत्मविश्वास से हाँ कहता है। वह वैसे भी लाइब्रेरी कैटलॉग की जाँच करती है और उसे ऐसी कोई किताब नहीं मिलती है।

एआई से नकली उद्धरणों का पता लगाने का भविष्य

अब अधिक चैटबॉट डिफ़ॉल्ट रूप से वेब पर खोज करते हैं और लिंक दिखाते हैं, जिससे रोजमर्रा के उपयोग में पूरी तरह से बने संदर्भ कम हो जाते हैं। हालाँकि, गलत वर्गीकरण एक कठिन समस्या बनी हुई है, क्योंकि यह निर्णय लेने के लिए सावधानीपूर्वक पढ़ने की आवश्यकता है कि कोई स्रोत वास्तव में किसी विशिष्ट दावे का समर्थन करता है या नहीं। प्रकाशक, पुस्तकालय और उद्धरण उपकरण स्वचालित रूप से संदर्भों की जाँच करने के बेहतर तरीके बना रहे हैं, और कुछ लेखन उपकरण आपके सबमिट करने से पहले अप्राप्य उद्धरणों को चिह्नित कर सकते हैं। इनमें से कोई भी मूल आदत को प्रतिस्थापित नहीं करता है: स्रोत ढूंढें, इसे खोलें और संबंधित अनुच्छेद को स्वयं पढ़ें। स्कूल संभवतः हर उद्धरण के लिए छात्रों को ज़िम्मेदार ठहराते रहेंगे, चाहे जो भी उपकरण सुझाया गया हो।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • गति और पैमाना. भाषा वर्कफ़्लो निरंतरता से समझौता किए बिना तेज़ी से आगे बढ़ सकता है।
  • पहुंच और पहुंच. यह सभी भाषाओं और संचार शैलियों तक पहुंच का विस्तार करता है।
  • स्पष्ट निर्णय. टीमें निर्णय लेने में अधिक समय व्यतीत कर सकती हैं जबकि स्वचालन पुनरावृत्ति को संभालता है।

का ध्यान रखें

  • मतिभ्रम वाले तथ्य चुपचाप रिपोर्ट में प्रवेश कर सकते हैं, प्रवाह का समर्थन कर सकते हैं, या अनुसंधान आउटपुट का समर्थन कर सकते हैं।
  • त्वरित संवेदनशीलता समान अनुरोधों में असंगत परिणाम पैदा कर सकती है।
  • यदि पहुंच नियंत्रण कमजोर हैं तो संवेदनशील पाठ डेटा उजागर हो सकता है।

अगले चरण

  1. रोलआउट से पहले आउटपुट स्वरूप, टोन और गुणवत्ता मानकों को परिभाषित करें।
  2. जब भी सटीकता मायने रखती है तो विश्वसनीय स्रोतों के साथ जमीनी प्रतिक्रियाएँ।
  3. उच्च जोखिम वाले आउटपुट के लिए एक मानव समीक्षा चेकपॉइंट रखें।
  4. विफलता पैटर्न को ट्रैक करें और संकेतों या वर्कफ़्लो को नियमित रूप से पुनः प्रशिक्षित करें।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

Take the Spotting Fake Citations from AI quiz

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

AI से नकली उद्धरणों का पता लगाना क्या है?

चैटबॉट उद्धरणों का आविष्कार करते हैं क्योंकि वे ऐसा पाठ उत्पन्न करते हैं जो सही दिखता है, न कि वह पाठ जिसे उन्होंने जाँचा है। एक मनगढ़ंत संदर्भ में वास्तविक लगने वाले लेखक, एक विश्वसनीय पत्रिका और यहां तक ​​कि एक डीओआई भी हो सकता है। यह मायने रखता है क्योंकि आपके पेपर में एक नकली या गलत तरीके से पेश किया गया स्रोत आपको ग्रेड दे सकता है, आपकी विश्वसनीयता को नुकसान पहुंचा सकता है, या पेशेवर सेटिंग्स में औपचारिक प्रतिबंध लग सकता है।

एक चैटबॉट ऐसा उद्धरण क्यों प्रस्तुत कर सकता है जो मौजूद ही नहीं है?

खोज चरण के बिना, मॉडल ऐसे पाठ का निर्माण करता है जो उद्धरण के पैटर्न में फिट बैठता है, बिना किसी अंतर्निहित जांच के कि संदर्भ मौजूद है।

गाइड किस प्रकार के ख़राब उद्धरण को पहचानना सबसे कठिन कहता है?

जब पेपर मौजूद हो और विवरण सही हो, तो उसे पढ़ने से ही पता चलता है कि यह वह नहीं कहता जो चैटबॉट ने दावा किया है।

2023 में माता बनाम एवियंका में क्या हुआ?

वकीलों ने ChatGPT द्वारा बनाए गए अदालती मामलों की एक संक्षिप्त जानकारी दायर की और अदालत ने उन्हें मंजूरी दे दी।

DOI की जाँच करते समय, आपको इसे doi.org के माध्यम से खोलने के बाद क्या पुष्टि करनी चाहिए?

एक बना हुआ डीओआई एक अलग, वास्तविक पेपर खोल सकता है, इसलिए आपको शीर्षक और लेखकों की तुलना करनी होगी, न कि केवल यह देखना होगा कि लिंक काम करता है।

यदि आप किसी स्रोत को सत्यापित नहीं कर सकते तो आपको क्या करना चाहिए?

यदि किसी स्रोत को सत्यापित नहीं किया जा सकता है, तो यह आपके काम में शामिल नहीं है। गाइड इसे हटाने के लिए कहता है।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →