এআই ব্যর্থতা মোড

উদ্দেশ্যমূলক আচরণ এবং এর সীমানা দিয়ে শুরু করুন। একটি ভুল বিভাগ, একটি উদ্ভাবিত উদ্ধৃতি, এবং একটি নকল অর্থপ্রদানের অনুরোধের জন্য বিভিন্ন প্রতিক্রিয়া প্রয়োজন৷ প্রতিটি ব্যর্থতার জন্য ট্রিগার, পর্যবেক্ষণ ফলাফল, প্রভাবিত উপাদান এবং ব্যবহারিক ফলাফল রেকর্ড করুন। সিস্টেমের ত্রুটিগুলি থেকে মডেল ত্রুটিগুলিকে আলাদা করুন৷ একটি মডেল সঠিকভাবে একটি অনুরোধের ব্যাখ্যা করতে পারে যখন একটি টুল ভুল অ্যাকাউন্টের সাথে সঞ্চালিত হয়, একটি বাসি নথি পুরানো নীতি সরবরাহ করে, অথবা একটি সম্পূর্ণ ক্রিয়াকলাপের পুনরাবৃত্তি করে। যখন একটি আউটপুট বাহ্যিক অবস্থা পরিবর্তন করতে পারে তখন এন্ড-টু-এন্ড যাচাইকরণ অপরিহার্য। সাধারণ পরিবর্তনশীলতা এবং ইচ্ছাকৃত অপব্যবহার আলাদাভাবে পরীক্ষা করুন। ফর্ম্যাটিং পরিবর্তন, উপভাষা, অনুপস্থিত ডেটা, দীর্ঘ নথি, এবং বিরোধপূর্ণ নির্দেশাবলী একটি প্রতিপক্ষ ছাড়া দুর্বলতা প্রকাশ করতে পারে। নিরাপত্তা পরীক্ষা এমন ক্ষেত্রে যোগ করে যেখানে একজন আক্রমণকারী আচরণ পুনঃনির্দেশিত করার চেষ্টা করে বা তথ্য অ্যাক্সেস করে। কারণের সাথে মিলে যাওয়া নিয়ন্ত্রণগুলি বেছে নিন: ইনপুট চুক্তি, প্রমাণ পরীক্ষা, অনুমতি সীমা, লেনদেন শনাক্তকারী, বিরত থাকা, বা মানব পর্যালোচনা। রিগ্রেশন পরীক্ষার জন্য ব্যর্থ কেস রাখুন এবং অবশিষ্ট অনিশ্চয়তা রেকর্ড করুন। একটি প্রশমিতকরণ যা একটি উদাহরণকে ধরতে পারে তাকে সম্পূর্ণ শ্রেণী ব্যর্থতা দূর করে বলে বর্ণনা করা উচিত নয়।