ভাষা এআই গাইড
এলএলএম-এ বিপরীত অভিশাপ
বিপরীত অভিশাপ হল একটি আশ্চর্যজনক ব্যর্থতার মোড যেখানে একটি ভাষা মডেল যা শিখে 'A হল B' নির্ভরযোগ্যভাবে উত্তর দিতে পারে না 'B হল A'। এটি প্রকাশ করে যে এলএলএমগুলি তথ্যগুলিকে এক-দিকনির্দেশক সংস্থা হিসাবে সংরক্ষণ করে, প্রতিসম জ্ঞান হিসাবে নয়।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
গভীর ডুব
বার্গলুন্ড এবং সহকর্মীদের দ্বারা 2023 সালের একটি গবেষণাপত্রে নথিভুক্ত, বিপরীত অভিশাপ দেখায় যে যদি একজন মডেলকে 'টম ক্রুজের মা মেরি লি ফাইফার' সম্পর্কে প্রশিক্ষণ দেওয়া হয়, তবে এটি প্রায়ই ব্যর্থ হয় যখন জিজ্ঞাসা করা হয় 'কে মেরি লি ফাইফারের ছেলে?' যদিও উত্তরটি যৌক্তিকভাবে অভিন্ন। প্রভাব মডেল আকার জুড়ে এবং এমনকি এই ধরনের শত শত তথ্য সূক্ষ্ম-টিউনিং পরেও অব্যাহত থাকে। এটি একটি মেমরি ফাঁক নয়: মডেল তথ্য দেখেছে, কিন্তু শুধুমাত্র এক ক্রমে. যেহেতু প্রশিক্ষণ ডেটার সঠিক শব্দ ক্রম অনুসারে পরবর্তী-টোকেন ভবিষ্যদ্বাণীকে অপ্টিমাইজ করে, A থেকে B থেকে পরিসংখ্যানগত লিঙ্ক স্বয়ংক্রিয়ভাবে B থেকে A-তে একটি লিঙ্ক তৈরি করে না। শুধুমাত্র স্কেলই নমনীয়, মানব-সদৃশ যুক্তি তৈরি করে এমন অনুমানগুলি খুঁজে বের করা চ্যালেঞ্জিং তথ্যের উপর।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি চ্যাটবট সঠিকভাবে একজন সেলিব্রেটির পিতামাতাকে বর্ণনা করে কিন্তু সেই পিতামাতার বিখ্যাত সন্তানের নাম বলতে বলা হলে ব্যর্থ হয়৷
একজন মডেল আবৃত্তি করেন 'নবম প্রেসিডেন্ট ছিলেন উইলিয়াম হেনরি হ্যারিসন' তবুও হোঁচট খায় 'কোন নম্বর প্রেসিডেন্ট ছিলেন উইলিয়াম হেনরি হ্যারিসন।'
একটি কোডিং সহকারী যে একটি ফাংশন থেকে বর্ণনা ম্যাপিং শিখেছে শুধুমাত্র বর্ণনা থেকে ফাংশনের নাম পুনরুদ্ধার করতে পারে না।
'ড্রাগ এক্স ট্রিটস কন্ডিশন ওয়াই'-এর উপর প্রশিক্ষিত একটি মেডিকেল QA সিস্টেম ড্রাগ এক্সকে তালিকাভুক্ত করতে ব্যর্থ হয় যখন জিজ্ঞাসা করা হয় যে শর্ত Y কিসের সাথে আচরণ করে।
এলএলএম-এ বিপরীত অভিশাপের ভবিষ্যত
অধ্যয়নের অধীন প্রশমনের মধ্যে রয়েছে দ্বিমুখী তথ্য বৃদ্ধি (বিপরীত বাক্যাংশ যোগ করা), প্রশিক্ষণের উদ্দেশ্য যা উভয় দিকের টোকেনগুলির ভবিষ্যদ্বাণী করে এবং পুনরুদ্ধার ব্যবস্থা যা মুখস্থ ওজনের উপর নির্ভর না করে প্রতিসমভাবে তথ্য দেখায়। কিছু নতুন আর্কিটেকচার এবং রিভার্স-প্রিট্রেনিং পরীক্ষা ব্যবধান কমিয়ে দেয়। অভিশাপটি সঙ্কুচিত হওয়ার আশা করুন কিন্তু অদৃশ্য হবে না, কারণ এটি পরবর্তী-টোকেন শিক্ষা এবং বাস্তব-বিশ্ব সম্পর্কের প্রতিসাম্য কাঠামোর মধ্যে একটি গভীর অমিল প্রকাশ করে।
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- গতি এবং স্কেল. ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
- অ্যাক্সেস এবং পৌঁছানো. এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
- সুস্পষ্ট সিদ্ধান্ত. অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
জন্য সতর্ক
- হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
- প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
- অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
পরবর্তী পদক্ষেপ
- রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
- যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
- উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
- ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the Reversal Curse in LLMs quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
LLMs মধ্যে বিপরীত অভিশাপ কি?
বিপরীত অভিশাপ হল একটি আশ্চর্যজনক ব্যর্থতার মোড যেখানে একটি ভাষা মডেল যা শিখে 'A হল B' নির্ভরযোগ্যভাবে উত্তর দিতে পারে না 'B হল A'। এটি প্রকাশ করে যে এলএলএমগুলি তথ্যগুলিকে এক-দিকনির্দেশক সংস্থা হিসাবে সংরক্ষণ করে, প্রতিসম জ্ঞান হিসাবে নয়।
A model learned “A is B” but fails to answer “B is A.” What is this called?
The paper names this directional failure the reversal curse.
What does the reversal curse show about directional associations?
The paper reports that forward and reverse statements can behave differently.
Is the reversal curse simply a failure because the model never saw the fact?
The research tests failure on a reverse query after forward exposure.
Why might next-token training contribute to the effect?
The paper discusses sequence direction as relevant to the failure.
What does failure on a reverse query imply about model knowledge?
The finding challenges assumptions about flexible use of stored facts.
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড