এআই সেফটি কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. How does the guide frame AI safety risk across current and advanced systems?
   • From familiar harms and misuse through severe risks from highly capable systems
   • Only as a question of preventing rude outputs
   • Only as a hardware reliability issue
   • As a synonym for cybersecurity alone
2. গাইডের সক্ষমতা-সারিবদ্ধকরণ-নিরাপত্তা মানসিক মডেলে, সক্ষমতা কী বর্ণনা করে?
   • Whether the system’s goals match intent
   • Whether an adversary can misuse it
   • How many training examples it has
   • What a system can do
3. AI নিরাপত্তায় স্পেসিফিকেশন গেমিং মানে কি?
   • Correctly following every broader human value
   • Meeting the literal objective while missing the designer’s intended goal
   • Finding a security flaw in a database
   • Using a smaller model to save compute
4. একটি টুল-ব্যবহারকারী এজেন্টের জন্য শুধুমাত্র আউটপুট ফিল্টারের উপর নির্ভর করার ঝুঁকি কি?
   • Filters always change model weights
   • A filter prevents all misuse
   • The system may take multi-step actions or be manipulated beyond the filtered text
   • Tool use only occurs during training
5. কেন একটি নিরাপত্তা প্রোগ্রামে রেড-টিমিং অন্তর্ভুক্ত করবেন?
   • To improve marketing copy
   • To prove the system has no risks
   • To probe adversarially for harmful behaviors and weaknesses
   • To remove the need for deployment monitoring
6. একটি নিরাপত্তা মূল্যায়ন একটি পালিশ মডেল কার্ডের বাইরে কি পরীক্ষা করা উচিত?
   • Dangerous capabilities, deceptive behavior, deployment pressure, and safeguards
   • Only the product’s user interface
   • Only benchmark accuracy
   • মডেল পরামিতি সংখ্যা
7. What does instrumental convergence describe in AI safety arguments?
   • All AI systems share one objective
   • Every model is conscious
   • A model’s output tokens become instruments
   • Different goals may create incentives for similar subgoals such as resources or persistence
8. Why does the guide argue for broader public AI literacy?
   • Only experts are affected by AI safety
   • Governance needs public understanding, not only specialist knowledge
   • Literacy replaces technical evaluation
   • Public understanding guarantees safe deployment