প্রম্পট চেইনিং

একটি একক মেগা-প্রম্পট মডেলটিকে একবারে সবকিছু করতে বলে: উত্সটি পড়ুন, তথ্য বের করুন, তাদের সম্পর্কে কারণ করুন, শৈলীর নিয়মগুলি অনুসরণ করুন এবং উত্তর ফর্ম্যাট করুন৷ প্রতিটি অতিরিক্ত চাহিদা মনোযোগের জন্য প্রতিযোগিতা করে। যখন আউটপুট ভুল, আপনি বলতে পারবেন না কোন অংশ ব্যর্থ হয়েছে। প্রম্পট চেইনিং কাজটিকে পর্যায়গুলিতে বিভক্ত করে এবং প্রতিটি পর্যায়ে একটি পরিষ্কার কাজ থাকে। একটি সাধারণ চেইনের তিনটি ধাপ রয়েছে: 1. একটি নথি থেকে প্রাসঙ্গিক উদ্ধৃতিগুলি বের করুন৷ 2. শুধুমাত্র সেই উদ্ধৃতিগুলি ব্যবহার করে একটি প্রশ্নের উত্তর দিন। 3. উদ্ধৃতিগুলির বিপরীতে উত্তরটি পরীক্ষা করুন এবং দর্শকদের জন্য এটি পুনরায় লিখুন। সাধারণ কোড ধাপগুলির মধ্যে আউটপুট পরীক্ষা করতে পারে। এটি JSON-কে পার্স করতে পারে, নিশ্চিত করতে পারে যে একটি প্রয়োজনীয় ক্ষেত্র বিদ্যমান আছে, অথবা যদি কোনো শ্রেণিবিন্যাসকারী কম আত্মবিশ্বাস প্রদান করে তাহলে চেইন বন্ধ করতে পারে। Anthropic এর ডিসেম্বর 2024 প্রবন্ধ "বিল্ডিং ইফেক্টিভ এজেন্ট" এই চেকগুলিকে "গেট" বলে। এটি প্রম্পট চেইনিংকে একটি ওয়ার্কফ্লো হিসাবে বর্ণনা করে যা উচ্চ নির্ভুলতার জন্য অতিরিক্ত লেটেন্সি ট্রেড করে, কারণ প্রতিটি কল একটি সহজ কাজ হয়ে ওঠে। চেইন এবং এজেন্টরা পথ কে নিয়ন্ত্রণ করে তা ভিন্ন। একটি চেইনে, বিকাশকারী ক্রমটিকে হার্ড-কোড করে। একটি এজেন্টে, মডেলটি রান টাইমে সিদ্ধান্ত নেয় যে কোন টুলটি পরবর্তীতে কল করবে এবং কখন এটি করা হবে। চেইন পরীক্ষা করা সস্তা, ব্যাখ্যা করা সহজ এবং অনুমানযোগ্য জায়গায় ব্যর্থ। এজেন্ট ওপেন-এন্ডেড সমস্যাগুলির জন্য যেখানে পদক্ষেপগুলি আগে থেকে জানা যায় না। অনেক উৎপাদন ব্যবস্থা এজেন্টের পরিবর্তে চেইন, কখনও কখনও শাখা (রাউটিং) বা ধাপগুলি যা সমান্তরালে চলে। তিনটি ভুল ধারণা প্রচলিত: - চেইনিং সবসময় বেশি খরচ করে। আসলে, ছোট ফোকাসড প্রম্পটগুলি সহজ পদক্ষেপের জন্য সস্তা মডেলগুলি ব্যবহার করতে পারে। - আরো পদক্ষেপ সবসময় ভাল. প্রতিটি হ্যান্ডঅফ তথ্য বা যৌগিক ত্রুটি হারাতে পারে। - চেইনিং একটি কাঠামো প্রয়োজন. LangChain-এর মতো লাইব্রেরিগুলি সাহায্যকারী অফার করে, কিন্তু একটি চেইন হল কয়েকটি ফাংশন কল পাসিং স্ট্রিং বা JSON।