পরবর্তী আপপরবর্তী গাইড
ColBERT দেরী মিথস্ক্রিয়া পুনরুদ্ধার
ভাষা এআই
ভাষা এআই গাইড
ঘন উত্তরণ পুনরুদ্ধার
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity.
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
ওভারভিউ
Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
গভীর ডুব
2020 সালে Facebook AI দ্বারা প্রবর্তিত DPR, দুটি পৃথক BERT এনকোডার ব্যবহার করে: একটি প্রশ্ন এনকোডার এবং একটি প্যাসেজ এনকোডার৷ প্রতিটি পাঠ্যকে একটি নির্দিষ্ট দৈর্ঘ্যের ঘন ভেক্টরে পরিণত করে (প্রায়ই 768 মাত্রা)। প্রাসঙ্গিকতা হল একটি প্রশ্ন ভেক্টর এবং একটি প্যাসেজ ভেক্টরের মধ্যে ডট প্রোডাক্ট, তাই পুনরুদ্ধার করা একটি দ্রুত নিকটতম-প্রতিবেশীর অনুসন্ধানে পরিণত হয় পূর্বনির্ধারিত প্যাসেজ এম্বেডিংয়ের উপর। মডেলটিকে একটি বিপরীত উদ্দেশ্যের সাথে প্রশিক্ষিত করা হয়েছে: সঠিক উত্তরণের ভেক্টরটিকে প্রশ্নের কাছাকাছি টেনে আনুন এবং বিএম25 থেকে খনন করা ইন-ব্যাচ নেগেটিভ এবং হার্ড নেগেটিভ ব্যবহার করে ভুলটিকে দূরে ঠেলে দিন। প্রাকৃতিক প্রশ্নগুলির মতো ওপেন-ডোমেন QA বেঞ্চমার্কগুলিতে, DPR দীর্ঘ-প্রধান BM25কে বড় ব্যবধানে পরাজিত করেছে, এটি দেখায় যে শেখা শব্দার্থিক মিল প্রশ্নের উত্তরের জন্য কীওয়ার্ড অনুসন্ধানকে ছাড়িয়ে যেতে পারে।
বাস্তব-বিশ্ব বাস্তবায়ন
ওপেন-ডোমেন প্রশ্নের উত্তর দেওয়ার সিস্টেম যা একটি এলএলএম উত্তর লেখার আগে সমর্থনকারী উইকিপিডিয়া প্যাসেজ টেনে নেয়
এন্টারপ্রাইজ ডকুমেন্ট অনুসন্ধান যেখানে কর্মীরা স্বাভাবিক প্রশ্ন জিজ্ঞাসা করে এবং সঠিক কীওয়ার্ড ছাড়াই প্রাসঙ্গিক অনুচ্ছেদ পান
গ্রাহক-সমর্থন বট একটি প্যারাফ্রেসড অভিযোগ থেকে সঠিক সহায়তা-কেন্দ্র নিবন্ধটি পুনরুদ্ধার করছে
হ্যালুসিনেশন কমানোর জন্য একটি ব্যক্তিগত জ্ঞান বেসে গ্রাউন্ডিং প্রতিক্রিয়া পুনরুদ্ধার-বর্ধিত চ্যাটবট
ঘন উত্তরণ পুনরুদ্ধারের ভবিষ্যত
ঘন পুনরুদ্ধার এখন সবচেয়ে পুনরুদ্ধার-বর্ধিত প্রজন্মের পাইপলাইনগুলিকে বৃহৎ ভাষার মডেলগুলিকে খাইয়ে দেয়। গবেষণা হাইব্রিড সিস্টেমের দিকে অগ্রসর হচ্ছে যা ঘন এবং আভিধানিক স্কোরগুলিকে ফিউজ করে, ColBERT-এর মতো দেরী-ইন্টার্যাকশন মডেল যা সূক্ষ্ম মিলের জন্য প্রতি-টোকেন ভেক্টর রাখে, এবং নির্দেশ-সুরযুক্ত এমবেডিং যা অনেক কাজের সাথে খাপ খায়। সস্তা, বহুভাষিক, এবং দীর্ঘ-প্রসঙ্গ এনকোডার, সেইসাথে পুনরুদ্ধারকারীদের কঠোর সহ-প্রশিক্ষণ আশা করুন যেগুলি তারা পরিবেশন করে।
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- গতি এবং স্কেল. ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
- অ্যাক্সেস এবং পৌঁছানো. এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
- সুস্পষ্ট সিদ্ধান্ত. অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
জন্য সতর্ক
- হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
- প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
- অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
পরবর্তী পদক্ষেপ
- রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
- যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
- উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
- ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the Dense Passage Retrieval quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
ঘন উত্তরণ পুনরুদ্ধার কি?
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity. Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
ঘন প্যাসেজ পুনরুদ্ধার কিভাবে সিদ্ধান্ত নেয় কোন প্যাসেজ একটি প্রশ্নের সাথে মেলে?
ডিপিআর প্রশ্ন এবং প্যাসেজ উভয়কেই ঘন ভেক্টরে ম্যাপ করে এবং শব্দ ওভারল্যাপের পরিবর্তে অর্থ ক্যাপচার করে তাদের মিল (ডট পণ্য) দ্বারা প্রাসঙ্গিকতা পরিমাপ করে।
DPR একটি 'দ্বি-এনকোডার' আর্কিটেকচার ব্যবহার করে। এর মানে কি?
একটি দ্বি-এনকোডারে প্রশ্ন এবং প্যাসেজের জন্য স্বাধীন এনকোডার থাকে, তাই প্যাসেজ ভেক্টরগুলিকে আগে থেকেই গণনা করা যায় এবং সূচী করা যায়।
ডিপিআর-এ কেন প্যাসেজ ভেক্টর আগে থেকেই গণনা করা যায়?
যেহেতু প্যাসেজ এনকোডার কোয়েরির উপর নির্ভর করে না, তাই সমস্ত প্যাসেজ এম্বেডিং পূর্বনির্ধারিত এবং সংরক্ষণ করা যেতে পারে, অনুসন্ধানের সময় এনকোড করার জন্য শুধুমাত্র ক্যোয়ারী রেখে যায়।
কোন প্রশিক্ষণের কৌশলটি ডিপিআরকে সস্তায় অনেক নেতিবাচক উদাহরণ তৈরি করতে দেয়?
ইন-ব্যাচ নেগেটিভগুলি একটি মিনি-ব্যাচের অন্যান্য প্যাসেজগুলিকে একটি প্রদত্ত প্রশ্নের জন্য নেতিবাচক হিসাবে বিবেচনা করে, যা দক্ষতার সাথে অনেকগুলি বিপরীত জোড়া তৈরি করে।
For what vocabulary mismatch can learned DPR representations be useful compared with lexical matching alone?
Learned representations can support paraphrase matching, but dense retrieval does not universally outperform lexical retrieval.
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড