হ্যালুসিনেশন সনাক্তকরণ পদ্ধতি

সনাক্তকরণ একটি সংকীর্ণ প্রশ্ন জিজ্ঞাসা করে কেন মডেলগুলি হ্যালুসিনেট করে: একটি আউটপুট দেওয়া হলে, এটি কি বিশ্বাস করা যেতে পারে? শক্তিশালী সিস্টেমগুলি সাধারণত নীচের কয়েকটি পদ্ধতিকে একত্রিত করে। স্ব-সংগতি পরীক্ষাগুলি একটি সাধারণ পর্যবেক্ষণের উপর নির্ভর করে। যখন একটি মডেল একটি সত্য জানে, বারবার নমুনাগুলি একমত হতে থাকে, যখন বানোয়াট বিবরণ পরিবর্তিত হয়। SelfCheckGPT (Manakul et al., 2023) এটিকে আনুষ্ঠানিক করেছে। এটি বিভিন্ন প্রতিক্রিয়া তৈরি করে এবং মূল উত্তরের প্রতিটি বাক্য অন্যদের দ্বারা সমর্থিত কিনা তা পরিমাপ করে। পদ্ধতির কোন বাহ্যিক উৎসের প্রয়োজন নেই। ত্রুটিগুলি হল অতিরিক্ত মডেল কল এবং একটি মডেল যখন প্রতিবার একই ভুল উত্তর পুনরাবৃত্তি করে তখন এটি মিস করা ত্রুটিগুলি। উৎস-ভিত্তিক চেকগুলি রেফারেন্স টেক্সটের সাথে আউটপুট তুলনা করে, যা পুনরুদ্ধার-বর্ধিত সিস্টেমের জন্য উপযুক্ত। উত্তরটি পারমাণবিক দাবিতে বিভক্ত, এবং প্রতিটি দাবি পুনরুদ্ধার করা প্যাসেজের বিরুদ্ধে এনটেইলমেন্টের জন্য পরীক্ষা করা হয়। Entailment মানে উত্তরণ যৌক্তিকভাবে দাবি সমর্থন করে। পরীক্ষাটি হয় একটি প্রাকৃতিক ভাষা অনুমান মডেল বা একটি এলএলএম ব্যবহার করে। এই চেকগুলি উত্সগুলির প্রতি বিশ্বস্ততা পরিমাপ করে, যা উত্সগুলি ভুল হলে সত্যের মতো নয়৷ অনিশ্চয়তা সংকেত মডেলের নিজস্ব সম্ভাব্যতা ব্যবহার করে। কম টোকেন সম্ভাবনা বা কী স্প্যানে উচ্চ এনট্রপি যেমন নাম, সংখ্যা এবং তারিখ অনুমান নির্দেশ করতে পারে। শব্দার্থিক এনট্রপি (ফারকুহার এট আল।, 2024 সালে প্রকৃতিতে প্রকাশিত) অনিশ্চয়তা পরিমাপ করার আগে অর্থের ভিত্তিতে উত্তরের নমুনা তৈরি করে, তাই একই উত্তরের বিভিন্ন শব্দকে মতবিরোধ হিসাবে গণনা করা হয় না। টোকেন-স্তরের সংকেতগুলির লগ সম্ভাব্যতাগুলিতে অ্যাক্সেস প্রয়োজন, যা কিছু API সীমাবদ্ধ করে। বিচারক মডেলরা একটি শক্তিশালী এলএলএমকে অসমর্থিত দাবিগুলির জন্য একটি উত্তর গ্রেড করতে বলে, সাধারণত উত্স এবং একটি রুব্রিক সংযুক্ত করে। তারা ভাল মাপকাঠি, কিন্তু বিচারকদের নিজস্ব পক্ষপাত এবং ত্রুটির হার আছে, তাই মানব লেবেলের বিরুদ্ধে তাদের পরীক্ষা করুন। একটি সাধারণ ভুল ধারণা হল যে একজন মডেলকে জিজ্ঞাসা করা 'আপনি কি নিশ্চিত?' নির্ভরযোগ্যভাবে ত্রুটি ধরা. মডেলরা সঠিক উত্তর ত্যাগ করতে পারে বা ভুলগুলিকে রক্ষা করতে পারে। স্ট্রাকচার্ড চেক আরো নির্ভরযোগ্য.