এজেন্ট Guardrails ক্যুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. এজেন্ট guardrails প্রধান উদ্দেশ্য কি?
   • নিরাপত্তা এবং সম্মতির জন্য এজেন্ট কী করতে পারে, বলতে পারে বা অ্যাক্সেস করতে পারে তা সীমাবদ্ধ করতে
   • এজেন্টদের আরও ধীরে সাড়া তৈরি করতে
   • এজেন্ট এর শব্দভান্ডার বৃদ্ধি
   • অন্তর্নিহিত মডেল সম্পূর্ণরূপে প্রতিস্থাপন
2. একটি 'আউটপুট রেললাইন' সাধারণত কী করে?
   • স্ক্রীন ইনকামিং ব্যবহারকারীর অনুরোধ শুধুমাত্র
   • ডেলিভারির আগে বিষাক্ত, মিথ্যা বা অ-সঙ্গত সামগ্রীর জন্য এজেন্টের প্রতিক্রিয়া পরীক্ষা করে
   • মডেলের প্রশিক্ষণ ত্বরান্বিত করে
   • এজেন্টকে আরও টুল অ্যাক্সেস মঞ্জুর করে
3. কিভাবে 'ন্যূনতম বিশেষাধিকারের নীতি' অ্যাকশন গার্ডেলের ক্ষেত্রে প্রযোজ্য?
   • এজেন্ট প্রতিটি সম্ভাব্য অনুমতি দেওয়া হয়
   • এজেন্ট কিছু জন্য অনুমতি চাইতে হবে
   • এজেন্ট শুধুমাত্র সংকীর্ণ স্কোপ করা টুল, কী এবং তার প্রয়োজনীয় সীমা পায়
   • এজেন্টকে সুবিধার জন্য অ্যাডমিন অ্যাক্সেস দেওয়া হয়
4. গার্ডেলে ব্যবহৃত 'বিচারক' বা যাচাইকারী মডেল কী?
   • এজেন্টের প্রধান উত্তর তৈরি করতে
   • ব্যবহারকারীর পাসওয়ার্ড সংরক্ষণ করতে
   • শুধুমাত্র ভাষা অনুবাদ করতে
   • নিরাপত্তা বা নির্ভুলতার জন্য এজেন্টের আউটপুট গ্রেড বা ফ্যাক্ট-চেক করতে
5. কেন প্রতিপক্ষের ইনপুটগুলির বিরুদ্ধে গার্ডেল পরীক্ষা করা গুরুত্বপূর্ণ?
   • কারণ আক্রমণকারীরা জেলব্রেক করার চেষ্টা করে, তাই অন্ধভাবে বিশ্বাস না করে গার্ডেলগুলি অবশ্যই তদন্ত করা উচিত
   • এটি উদ্দেশ্যমূলকভাবে এজেন্টকে ধীর করে তোলে
   • এটি কোনো নিয়মের প্রয়োজনকে সরিয়ে দেয়
   • এটি গ্যারান্টি দেয় যে মডেল কখনই ভুল করে না
6. কোন উদাহরণ একটি কার্যকর কর্ম গার্ডেল দেখায়?
   • কোন খরচ সীমা ছাড়া একটি ক্রয় এজেন্ট
   • মডেলের বাইরে ট্রানজ্যাকশন প্রতি $100-এর কঠোর ক্যাপ সহ একজন ক্রয় এজেন্ট
   • একটি এজেন্ট যে কোন কমান্ড এটি চান চালাতে পারেন
   • একটি এজেন্ট যে সমস্ত অনুমতি উপেক্ষা করে
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates