मतिभ्रम में कमी के लिए सत्यापन की श्रृंखला

It matters because it measurably cuts confident-but-wrong fabrications without external tools.

मतिभ्रम तब होता है जब कोई भाषा मॉडल कुछ धाराप्रवाह लेकिन गलत बताता है। Meta AI शोधकर्ताओं द्वारा 2023 में प्रस्तावित चेन-ऑफ-वेरिफिकेशन, संरचित स्व-जाँच के साथ इससे लड़ता है। मॉडल सबसे पहले एक आधारभूत उत्तर लिखता है। इसके बाद यह लक्षित सत्यापन प्रश्नों की एक सूची की योजना बनाता है जो उस मसौदे में तथ्यात्मक दावों की जांच करता है, जैसे 'इस व्यक्ति का जन्म कब हुआ था?' या 'किस कंपनी ने यह उत्पाद जारी किया?'। महत्वपूर्ण रूप से, यह प्रत्येक सत्यापन प्रश्न का स्वतंत्र रूप से उत्तर देता है, आदर्श रूप से मूल ड्राफ्ट को देखे बिना, इसलिए यह केवल अपनी पिछली गलतियों पर मुहर नहीं लगाता है। अंत में यह मसौदे के साथ सत्यापन उत्तरों की तुलना करता है और एक सही अंतिम प्रतिक्रिया उत्पन्न करता है। संस्थाओं को सूचीबद्ध करने और जीवनियाँ लिखने जैसे कार्यों में, CoVe ने एकल प्रत्यक्ष उत्तर की तुलना में तथ्यात्मक त्रुटियों को कम कर दिया।