এআই শব্দকোষের মেয়াদ

ALiBi কী?

সংজ্ঞা

একটি অবস্থানগত পক্ষপাত পদ্ধতি যা টোকেন দূরত্বের উপর ভিত্তি করে মনোযোগের স্কোরকে শাস্তি দেয়, মডেলগুলিকে দীর্ঘ প্রেক্ষাপটে এক্সট্রাপোলেট করতে সহায়তা করে।

সম্পর্কিত পদ

RoPE (রোটারি পজিশনাল এমবেডিং)
একটি পজিশনাল এনকোডিং পদ্ধতি যা আপেক্ষিক টোকেন পজিশন এনকোড করতে কোয়েরি এবং কী ভেক্টর ঘোরায়।
অবস্থানগত এনকোডিং
টোকেন এম্বেডিং-এ তথ্য যোগ করা হয়েছে যাতে ট্রান্সফরমাররা সিকোয়েন্স অর্ডার আলাদা করতে পারে।
স্লাইডিং উইন্ডো মনোযোগ
একটি মনোযোগের প্যাটার্ন যেখানে প্রতিটি টোকেন গণনা কমাতে কাছাকাছি টোকেনের একটি নির্দিষ্ট-আকারের উইন্ডোতে উপস্থিত থাকে।
অ্যালগরিদমিক পক্ষপাত
তির্যক ডেটা, অনুমান বা মডেলিং পছন্দের কারণে মডেল আউটপুটগুলিতে পদ্ধতিগত অন্যায়।
মনোযোগ মেকানিজম
একটি মডেল উপাদান যা একটি আউটপুট উত্পাদন করার সময় গতিশীলভাবে একটি ইনপুটের প্রাসঙ্গিক অংশগুলিতে ফোকাস করে৷
পক্ষপাত
ডেটা বা মডেল আচরণে ত্রুটি বা অন্যায়ের একটি ধারাবাহিক প্যাটার্ন।

আমাদের বিনামূল্যের গাইডে আরও জানুন

আরও দেখুন