গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
LLM অ্যাপস কুইজের জন্য উৎপাদন প্রস্তুতির চেকলিস্ট
এলএলএম উত্পাদন প্রস্তুতিতে ইভাল, রেললাইন, পর্যবেক্ষণযোগ্যতা, হারের সীমা, ফলব্যাক ডিজাইন এবং খরচ নিয়ন্ত্রণের বোঝার পরীক্ষা করে।
প্রশ্ন 1 এর 8
গাইড অনুসারে, এলএলএম অ্যাপের জন্য ঐচ্ছিক না হয়ে কেন ইভালগুলিকে একটি বেসলাইন প্রয়োজনীয়তা হিসাবে বিবেচনা করা হয়?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- গাইড অনুসারে, এলএলএম অ্যাপের জন্য ঐচ্ছিক না হয়ে কেন ইভালগুলিকে একটি বেসলাইন প্রয়োজনীয়তা হিসাবে বিবেচনা করা হয়?
- কারণ প্রম্পট বা মডেল পরিবর্তনগুলি নীরবে কিছু ইনপুটের গুণমান হ্রাস করতে পারে যখন অন্যদের উন্নতি করতে পারে
- কারণ এলএলএম আউটপুটগুলি নির্ধারক এবং সর্বদা অভিন্ন
- কারণ ইভাল হোস্টিং খরচ সরাসরি কমিয়ে দেয়
- কারণ সেগুলি প্রতিটি ক্লাউড প্রদানকারীর পরিষেবার শর্তাবলী দ্বারা প্রয়োজনীয়৷
- গাইড কিভাবে আউটপুট-সাইড চেক থেকে ইনপুট-সাইডকে আলাদা করে?
- ইনপুট-সাইড রেলিং চেক বিলিং; আউটপুট-সাইড গার্ডেল লেটেন্সি পরীক্ষা করে
- ইনপুট-সাইড গার্ডেলগুলি মডেলে পৌঁছানোর আগে ক্ষতিকারক অনুরোধগুলি ধরে রাখে; আউটপুট-সাইড গার্ডেলগুলি ব্যবহারকারীর কাছে উত্তর পৌঁছানোর আগেই PII লিকেজের মতো সমস্যাগুলি ধরে
- কোন পার্থক্য নেই; উভয় পদ একই জিনিস মানে
- ইনপুট-সাইড গার্ডেলগুলি শুধুমাত্র চিত্রগুলিতে প্রযোজ্য৷
- গাইড একটি LLM অ্যাপে পর্যবেক্ষণযোগ্যতার জন্য লগিং করার জন্য কী সুপারিশ করে?
- শুধুমাত্র চূড়ান্ত ব্যবহারকারীর সম্মুখীন ত্রুটি বার্তা
- শুধু মডেলের সংস্করণ নম্বর
- সময়ের সাথে সাথে প্রম্পট, সমাপ্তি, বিলম্ব, টোকেন গণনা এবং ইভাল স্কোর
- কিছুই না, যেহেতু এলএলএম কল রাষ্ট্রহীন
- কেন গাইড একাধিক স্তরে হার সীমা এবং খরচ ক্যাপ প্রয়োগ করার সুপারিশ করে?
- কারণ প্রদানকারী APIগুলি কোনো হার সীমিত সমর্থন করে না
- কারণ একাধিক স্তর অ্যাপটিকে দ্রুততর করে তোলে
- কারণ এটি ইভালের প্রয়োজনীয়তা দূর করে
- কারণ অ্যাপ্লিকেশান-স্তরের যুক্তিতে একাই একটি বাগ থাকতে পারে, তাই প্রদানকারী-সাইড বিলিং ক্যাপগুলি ব্যাকস্টপ হিসাবে কাজ করে
- মডেল প্রদানকারীর বিভ্রাটকে সুন্দরভাবে পরিচালনা করার জন্য গাইডটি কী প্যাটার্ন বর্ণনা করে?
- একটি সার্কিট ব্রেকার যা বারবার ত্রুটির পরে একটি ক্যাশড রেসপন্স বা সেকেন্ডারি প্রদানকারীতে স্যুইচ করে
- কোনো সীমা ছাড়াই অসীম পুনঃপ্রচার
- অবিলম্বে ব্যবহারকারীর অনুরোধ মুছে ফেলা
- বিভ্রাট উপেক্ষা এবং একটি ফাঁকা প্রতিক্রিয়া ফিরে
- গাইডের মতে, এলএলএম অ্যাপের উৎপাদন প্রস্তুতি সম্পর্কে একটি সাধারণ ভুল ধারণা কী?
- মডেলটি যদি একটি সম্মানিত প্রদানকারীর থেকে হয় তবে সেই মূল্যায়নগুলি অপ্রয়োজনীয়৷
- একটি ডেমো বা হাতে গোনা কয়েকটি পরীক্ষায় উত্তীর্ণ হওয়া উৎপাদন প্রস্তুত হওয়ার সমতুল্য
- সেই গার্ডেলগুলি শুধুমাত্র আউটপুটে প্রয়োগ করা উচিত, কখনই ইনপুট নয়
- সেই হার সীমিত করা শুধুমাত্র নন-এআই অ্যাপ্লিকেশনের জন্য প্রাসঙ্গিক
- গাইড অনুযায়ী একটি ব্যবহারিক ইভাল স্যুট কী ধরনের স্কোরিং ব্যবহার করে?
- প্রতিটি ধরনের কাজের জন্য শুধুমাত্র সঠিক স্ট্রিং ম্যাচিং
- কোনো স্কোরিং মানদণ্ড ছাড়াই এলোমেলো নমুনা
- এলএলএম-এ-জজ রুব্রিক্স, স্কিমা বৈধতা, বা সীমাবদ্ধ কাজের জন্য সঠিক মিলের মতো কাঠামোগত মানদণ্ড
- প্রতিটি সেশনের পরে সংগৃহীত ব্যবহারকারীর ভোট
- নিয়ন্ত্রন এবং এলএলএম উত্পাদন অনুশীলন সম্পর্কে গাইডে ভবিষ্যতের কোন প্রবণতা উল্লেখ করা হয়েছে?
- সমস্ত দেশ ইতিমধ্যে অভিন্ন এআই প্রবিধান চূড়ান্ত করেছে
- বিশ্বব্যাপী এআই প্রবিধান সম্পূর্ণরূপে পরিত্যাগ করা হয়েছে
- নিয়ন্ত্রণ শুধুমাত্র হার্ডওয়্যার নির্মাতাদের প্রভাবিত করে, সফ্টওয়্যার দল নয়
- নিয়ন্ত্রক মনোযোগ কিছু সেক্টরে সম্মতির প্রয়োজনীয়তার দিকে লগিং এবং ঘটনা-প্রতিক্রিয়া অনুশীলনগুলিকে ঠেলে দিতে পারে, যদিও এটি অঞ্চল অনুসারে পরিবর্তিত হয়