মরীচি অনুসন্ধান

It matters because it produces higher-quality, more coherent text for tasks like translation and summarization than picking the single best word every time.

যখন একটি ভাষা মডেল পাঠ্য তৈরি করে, তখন এটি পরবর্তী টোকেনের জন্য একটি সম্ভাব্যতার পূর্বাভাস দেয়, তারপর পুনরাবৃত্তি করে। লোভী ডিকোডিং সর্বদা একক সর্বোচ্চ-সম্ভাব্যতা টোকেন নেয়, কিন্তু এটি আপনাকে একটি কোণে আঁকতে পারে — প্রাথমিকভাবে স্থানীয়ভাবে-সর্বোত্তম পছন্দ একটি সামগ্রিক খারাপ বাক্যকে নিয়ে যেতে পারে। টপ-কে আংশিক সিকোয়েন্স ('বীম প্রস্থ', প্রায়শই 4-10) বজায় রেখে বিম অনুসন্ধান হেজেস। প্রতিটি ধাপে এটি সম্ভাব্য পরবর্তী টোকেন সহ প্রতিটি রশ্মিকে প্রসারিত করে, সমস্ত প্রার্থীকে তাদের ক্রমবর্ধমান লগ-সম্ভাব্যতা দ্বারা স্কোর করে এবং শুধুমাত্র শীর্ষ k রাখে। ফলাফল হল সর্বোচ্চ স্কোরিং সম্পূর্ণ ক্রম। এটি মেশিন ট্রান্সলেশনের জন্য স্ট্যান্ডার্ড হয়ে উঠেছে এবং সাধারণ রয়ে গেছে যেখানে একটি বিশ্বস্ত, উচ্চ-সম্ভাব্য আউটপুট সৃজনশীলতার চেয়ে বেশি গুরুত্বপূর্ণ।