কি RoPE (রোটারি পজিশনাল এমবেডিং)?

টোকেন এম্বেডিং-এ তথ্য যোগ করা হয়েছে যাতে ট্রান্সফরমাররা সিকোয়েন্স অর্ডার আলাদা করতে পারে।

একটি অবস্থানগত পক্ষপাত পদ্ধতি যা টোকেন দূরত্বের উপর ভিত্তি করে মনোযোগের স্কোরকে শাস্তি দেয়, মডেলগুলিকে দীর্ঘ প্রেক্ষাপটে এক্সট্রাপোলেট করতে সহায়তা করে।

একটি পুনরুদ্ধার পদ্ধতি যা একাধিক ক্যোয়ারী ভেরিয়েন্ট তৈরি করে, প্রতিটির জন্য ফলাফল পুনরুদ্ধার করে এবং র‌্যাঙ্কিংকে ফিউজ করে।

অ্যালগরিদমগুলি যেগুলি সম্পূর্ণ তুলনা ছাড়াই একটি প্রশ্নের কাছাকাছি ভেক্টর খুঁজে পায়, গতির জন্য সঠিকতা ট্রেড করে৷

একটি পদ্ধতি যা বাহ্যিক জ্ঞান পুনরুদ্ধার করে এবং অনুমান সময়ে প্রজন্মের মধ্যে এটি খাওয়ায়।

একটি প্রশিক্ষণ পদ্ধতি যা মডেল আচরণকে আকার দিতে মানুষের পছন্দ সংকেত ব্যবহার করে।