পরবর্তী আপপরবর্তী গাইড
নেতৃত্বমূলক প্রশ্ন কীভাবে AI উত্তরকে পক্ষপাতদুষ্ট করে
ভাষা এআই
ভাষা এআই গাইড
লগিট বায়াস
Logit বায়াস হল একটি নব যা একটি ভাষা মডেলকে নির্দিষ্ট টোকেনের দিকে বা দূরে সরিয়ে দেয় এবং মডেলটি পরবর্তী শব্দ বেছে নেওয়ার আগে তাদের স্কোরে একটি নির্দিষ্ট সংখ্যা যোগ করে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
ওভারভিউ
It is a lightweight way to ban words, force choices, or shape style without retraining anything.
গভীর ডুব
একটি মডেল তার পরবর্তী টোকেন বেছে নেওয়ার আগে, এটি তার শব্দভান্ডারে প্রতিটি টোকেনের জন্য একটি লগিট (একটি অস্বাভাবিক স্কোর) তৈরি করে। লগিট বায়াস আপনাকে তাদের সাংখ্যিক টোকেন আইডি দ্বারা নির্বাচিত টোকেনগুলির লগিটগুলিতে একটি ধ্রুবক মান যুক্ত করতে দেয়৷ একটি বড় ইতিবাচক পক্ষপাত একটি টোকেনকে নমুনা নেওয়ার সম্ভাবনা অনেক বেশি করে তোলে; একটি বড় নেতিবাচক পক্ষপাত (প্রায়শই API-এ -100) কার্যকরভাবে এটি নিষিদ্ধ করে। কারণ সামঞ্জস্য সফটম্যাক্সের আগে ঘটে যা স্কোরকে সম্ভাব্যতায় পরিণত করে, এমনকি বিনয়ী পক্ষপাতগুলি অর্থপূর্ণভাবে বন্টনকে পরিবর্তন করে। অত্যন্ত গুরুত্বপূর্ণভাবে, টোকেন আইডিতে পক্ষপাতিত্ব করা হয়, সম্পূর্ণ শব্দ নয় — তাই একটি বহু-টোকেন শব্দের প্রতিটি অংশের প্রয়োজন হতে পারে এটিকে সম্পূর্ণরূপে দমন বা প্রচার করার জন্য পক্ষপাতমূলক। এটি একটি দ্রুত, অস্ত্রোপচার নিয়ন্ত্রণ যার জন্য কোন ফাইন-টিউনিং এর প্রয়োজন নেই এবং অনুরোধ অনুযায়ী প্রযোজ্য।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি চ্যাটবটকে নির্দিষ্ট শব্দ তৈরি করা থেকে বিরত রাখতে অশ্লীল টোকেনগুলিতে -100 পক্ষপাতিত্ব সেট করা।
'হ্যাঁ' এবং 'না' টোকেনগুলিতে জোরালো ইতিবাচক পক্ষপাত প্রদান করে এবং অন্য সব কিছুকে দমন করে একটি হ্যাঁ/না শ্রেণীবিভাগকে বাধ্য করা।
এর টোকেনগুলিতে একটি মাঝারি নেতিবাচক পক্ষপাত প্রয়োগ করে একটি অতিরিক্ত ব্যবহার করা বাক্যাংশ বা ফিলার শব্দকে নিরুৎসাহিত করা।
ডোমেন-নির্দিষ্ট পদগুলিকে বুস্ট করা (যেমন একটি পণ্যের নাম) যাতে একজন সংক্ষিপ্তকারী নির্ভরযোগ্যভাবে তাদের উল্লেখ করে।
লগিট পক্ষপাতের ভবিষ্যত
Logit পক্ষপাত দ্রুত স্টিয়ারিং এর জন্য একটি প্রধান বিষয় হিসাবে রয়ে গেছে, কিন্তু আরও সমৃদ্ধ বিকল্পগুলি ক্রমবর্ধমান হচ্ছে: কঠোর গ্যারান্টির জন্য কাঠামোগত/সীমাবদ্ধ ডিকোডিং, এবং অ্যাক্টিভেশন স্টিয়ারিং বা প্রতিনিধিত্ব প্রকৌশল যা শুধুমাত্র আউটপুট স্কোরের পরিবর্তে একটি মডেলের অভ্যন্তরীণ ভেক্টরকে নাজেহাল করে। উচ্চ-স্তরের নিয়ন্ত্রণগুলি - নিষিদ্ধ বাক্যাংশ, শৈলী নির্দেশিকা, নিরাপত্তা ফিল্টারগুলি - যা স্বয়ংক্রিয়ভাবে টোকেনাইজেশন পরিচালনা করে যাতে বিকাশকারীদের কাঁচা টোকেন আইডিগুলির বিষয়ে যুক্তি দিতে না হয় - এপিআইগুলিকে একটি সাধারণ এস্কেপ হ্যাচ হিসাবে লজিট পক্ষপাত বজায় রাখার প্রত্যাশা করুন৷
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- গতি এবং স্কেল. ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
- অ্যাক্সেস এবং পৌঁছানো. এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
- সুস্পষ্ট সিদ্ধান্ত. অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
জন্য সতর্ক
- হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
- প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
- অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
পরবর্তী পদক্ষেপ
- রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
- যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
- উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
- ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the Logit Bias quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Logit Bias?
Logit বায়াস হল একটি নব যা একটি ভাষা মডেলকে নির্দিষ্ট টোকেনের দিকে বা দূরে সরিয়ে দেয় এবং মডেলটি পরবর্তী শব্দ বেছে নেওয়ার আগে তাদের স্কোরে একটি নির্দিষ্ট সংখ্যা যোগ করে। এটি কোনো কিছুকে পুনরায় প্রশিক্ষণ না দিয়ে শব্দ, জোর করে পছন্দ বা আকৃতি শৈলী নিষিদ্ধ করার একটি হালকা উপায়।
লগিট বায়াস কি পরিবর্তন করে?
Logit বায়াস নির্বাচিত টোকেন আইডিগুলির লগিটগুলিতে একটি ধ্রুবক যোগ করে, মডেলটি পরিবর্তন না করেই তাদের নির্বাচন করার সম্ভাবনা কতটা স্থানান্তরিত করে৷
অনেক API-এ, একটি টোকেনে -100-এর একটি লগিট পক্ষপাত কী সম্পন্ন করে?
-100-এর মতো একটি বড় নেতিবাচক পক্ষপাত টোকেনের পোস্ট-সফ্টম্যাক্স সম্ভাবনাকে মূলত শূন্যে নিয়ে যায়, তাই এটি কার্যত কখনই তৈরি হয় না।
What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
The API reference documents a range of -100 to 100 for each token ID, where negative values decrease likelihood and positive values increase it.
লগিট পক্ষপাত কি শনাক্তকারীর সাথে কী করা হয়?
টোকেনাইজারের শব্দভাণ্ডার থেকে নির্দিষ্ট টোকেন আইডিগুলিতে বায়াস মান প্রয়োগ করা হয়, তাই আপনাকে অবশ্যই একটি শব্দের টুকরোগুলির জন্য আইডিগুলি জানতে হবে।
কারণ লগিটগুলি একটি সফ্টম্যাক্সের মাধ্যমে পাস করা হয়, একটি ইতিবাচক পক্ষপাত যোগ করার প্রভাব কী?
সফ্টম্যাক্স লজিটগুলিকে ব্যাখ্যা করে, তাই এমনকি একটি শালীন ইতিবাচক পক্ষপাতও একটি টোকেনের অস্বাভাবিক ওজনকে উল্লেখযোগ্যভাবে গুণ করে, তীব্রভাবে এর প্রতিকূলতা বাড়ায়।
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড