ভাষা এআই গাইড

মিডল ইফেক্টে হেরে গেছে

'মাঝে হারিয়ে যাওয়া' প্রভাবটি হল ভাষা মডেলগুলির প্রবণতা হল তথ্যটি সর্বোত্তমভাবে ব্যবহার করার প্রবণতা যখন এটি একটি দীর্ঘ ইনপুটের শুরুতে বা শেষে প্রদর্শিত হয়, যখন মাঝখানে সমাহিত তথ্যগুলিকে উপেক্ষা করে।

এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min

এই পৃষ্ঠায়2 মিনিট পঠিত
  1. ওভারভিউ
  2. গভীর ডুব
  3. বাস্তব-বিশ্ব বাস্তবায়ন
  4. দ্য ফিউচার অফ লস্ট ইন দ্য মিডল ইফেক্ট
  5. এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
  6. অন্বেষণ চালিয়ে যান
  7. প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

ওভারভিউ

এটি গুরুত্বপূর্ণ কারণ এটি পুনরুদ্ধার করা নথিগুলির সাথে দীর্ঘ-প্রসঙ্গ মডেলগুলিতে আমরা কতটা বিশ্বাস করতে পারি তা সীমিত করে৷

গভীর ডুব

লিউ এবং স্ট্যানফোর্ডের সহকর্মীদের দ্বারা 2023 সালের একটি গবেষণায় চিহ্নিত করা হয়েছে, যখন মডেলগুলিকে অনেকগুলি নথি দেওয়া হয়েছিল এবং মূল ঘটনাটি রয়েছে এমন একটি ব্যবহার করে উত্তর দিতে বলা হয়েছিল তখন প্রভাবটি দেখা দেয়। নির্ভুলতা একটি U-আকৃতির বক্ররেখা তৈরি করে: প্রাসঙ্গিক প্যাসেজটি প্রম্পটের শুরুতে বা শেষে বসলে সর্বোচ্চ এবং মাঝখানে বসলে লক্ষণীয়ভাবে কম। এটি দীর্ঘ-প্রসঙ্গ সক্ষম হিসাবে বিপণিত মডেলগুলির জন্যও অনুষ্ঠিত হয়। পুনরুদ্ধার-বর্ধিত প্রজন্মের জন্য প্রভাবটি তীক্ষ্ণ: একটি প্রম্পটে কয়েক ডজন প্যাসেজ স্টাফ করা গ্যারান্টি দেয় না যে মডেলটি তাদের সমানভাবে পড়বে। অবস্থান, শুধুমাত্র উপস্থিতি নয়, একটি মডেল একটি বাস্তবতা মেনে চলে কিনা তা আকার দেয়। কাজটি কার্যকরী ব্যবহারের প্রশ্ন হিসাবে দীর্ঘ প্রসঙ্গ পুনর্বিন্যাস করেছে, কাঁচা উইন্ডোর আকার নয়।

বাস্তব-বিশ্ব বাস্তবায়ন

একটি RAG সিস্টেম 20টি নথি পুনরুদ্ধার করে কিন্তু উত্তরটি মিস করে কারণ এটি 20-এর মধ্যে 10 নম্বর প্যাসেজে এসেছে।

প্রম্পটে সবচেয়ে প্রাসঙ্গিক অংশটিকে প্রথমে বা শেষের দিকে রাখতে ইঞ্জিনিয়াররা অনুসন্ধানের ফলাফলগুলিকে পুনরায় র‌্যাঙ্ক করে।

একটি দীর্ঘ-নথির সংক্ষিপ্তসারের মূল বিবরণের ওজন কম থাকে যা চুক্তির মাঝপথে প্রদর্শিত হয়।

একটি 'খড়ের গাদায় সুই' বেঞ্চমার্ক একটি মডেলের অবস্থানগত নির্ভুলতা চার্ট করতে বিভিন্ন গভীরতায় একটি সত্য লুকিয়ে রাখে।

দ্য ফিউচার অফ লস্ট ইন দ্য মিডল ইফেক্ট

গবেষকরা মনোযোগ পরিবর্তন, অবস্থান-সচেতন প্রশিক্ষণ, এবং বুদ্ধিমান পুনরুদ্ধারের মাধ্যমে প্রভাবকে সম্বোধন করছেন যা প্রম্পটের প্রান্তগুলিতে সবচেয়ে প্রাসঙ্গিক প্যাসেজগুলিকে পুনরায় স্থান দেয়। মূল্যায়ন স্যুটগুলি এখন কার্যকর প্রসঙ্গ পরিমাপ করার জন্য পজিশন জুড়ে 'খড়ের গাদায় সুই' পরীক্ষা অন্তর্ভুক্ত করে। স্থাপত্যের উন্নতির সাথে সাথে, U-বক্ররেখা সমতল হচ্ছে, কিন্তু অনুশীলনকারীরা এমন পাইপলাইন ডিজাইন করতে থাকবে যা সমালোচনামূলক প্রমাণ রাখে যেখানে মডেলগুলি অভিন্ন মনোযোগের উপর আস্থা রাখার পরিবর্তে প্রকৃতপক্ষে দেখায়।

এটাকে বাস্তবে প্রয়োগ করা হচ্ছে

কেন এটা গুরুত্বপূর্ণ

  • গতি এবং স্কেল. ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
  • অ্যাক্সেস এবং পৌঁছানো. এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
  • সুস্পষ্ট সিদ্ধান্ত. অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।

জন্য সতর্ক

  • হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
  • প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
  • অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।

পরবর্তী পদক্ষেপ

  1. রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
  2. যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
  3. উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
  4. ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।

অন্বেষণ চালিয়ে যান

ফ্রি নিউজলেটার

প্রতিদিনের এআই ব্রিফিং পান

প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।

প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।

নিজেকে পরীক্ষা করুন

Take the Lost in the Middle Effect quiz

প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।

কুইজ শুরু করুন

ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

মিডল ইফেক্টে কি হারিয়ে যায়?

'মাঝে হারিয়ে যাওয়া' প্রভাবটি হল ভাষা মডেলগুলির প্রবণতা হল তথ্যটি সর্বোত্তমভাবে ব্যবহার করার প্রবণতা যখন এটি একটি দীর্ঘ ইনপুটের শুরুতে বা শেষে প্রদর্শিত হয়, যখন মাঝখানে সমাহিত তথ্যগুলিকে উপেক্ষা করে। এটি গুরুত্বপূর্ণ কারণ এটি পুনরুদ্ধার করা নথিগুলির সাথে দীর্ঘ-প্রসঙ্গ মডেলগুলিতে আমরা কতটা বিশ্বাস করতে পারি তা সীমিত করে৷

What positional pattern did the lost-in-the-middle study report?

The paper observed a U-shaped pattern with weaker performance in the middle.

What was the study’s task setup?

The study evaluated long-context use with retrieval-style tasks.

What does this effect imply about a large context window?

The study found performance can depend on the position of relevant information.

A RAG prompt includes many retrieved passages. What should be evaluated?

The guide says stuffing passages does not ensure they are used evenly.

Why might a relevant fact in the middle be missed?

The paper observes that position affects effective use, not simply presence.

শিখতে থাকুন

সম্পর্কিত গাইড

এই বিষয়ের জন্য বাছাই করা আরও গাইড

একটি বিনামূল্যে AI শংসাপত্র পানএকটি সংক্ষিপ্ত বিনামূল্যে কোর্স এবং পরীক্ষা. কোনো খরচ নেই, কোনো কার্ড নেই। প্রায় 2.5 ঘন্টা।বিনামূল্যে শুরু করুন →