গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

উপসর্গ টিউনিং কুইজ

উপসর্গ টিউনিংয়ের হিমায়িত-ব্যাকবোন পদ্ধতি, প্রতি-টাস্ক প্যারামিটার সঞ্চয়, মনোযোগ-স্তর বসানো, এবং প্রাকৃতিক-ভাষা তৈরির কাজগুলিতে ফলাফলগুলি মূল্যায়ন করুন।

সম্পর্কিত গাইড পাথউপসর্গ টিউনিং
প্রশ্ন 1 এর 8

উপসর্গ টিউনিং আসলে কি প্রশিক্ষণ দেয়?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. উপসর্গ টিউনিং আসলে কি প্রশিক্ষণ দেয়?
    • মডেলের সব ট্রান্সফরমারের ওজন
    • শুধুমাত্র মডেলের আউটপুট শব্দভান্ডার স্তর
    • প্রতিটি কাজের জন্য মডেলের একটি পৃথক অনুলিপি
    • মডেলটি হিমায়িত থাকার সময় অবিচ্ছিন্ন উপসর্গ ভেক্টরের একটি ছোট সেট
  2. উপসর্গ ভেক্টর কোথায় ইনজেক্ট করা হয়?
    • প্রতিটি মনোযোগ স্তরে কী এবং মান মধ্যে
    • শুধুমাত্র চূড়ান্ত আউটপুট স্তর এ
    • শুধুমাত্র ক্ষতি ফাংশন মধ্যে
    • এম্বেড করার আগে টোকেনাইজারে প্রবেশ করুন
  3. উপসর্গ টিউনিং কে চালু করেন এবং মোটামুটি কখন?
    • 2018 সালে OpenAI
    • 2021 সালে স্ট্যানফোর্ডে লি এবং লিয়াং
    • 2015 সালে Google
    • 2023 সালে Meta
  4. উপসর্গ টিউনিং কেন অনেক কাজের জন্য আকর্ষণীয়?
    • এটির জন্য কোনও প্রশিক্ষণ ডেটার প্রয়োজন নেই
    • এটি কোন হার্ডওয়্যারে অনুমান চালায়
    • প্রতিটি কাজ একটি সম্পূর্ণ মডেল অনুলিপি পরিবর্তে শুধুমাত্র একটি ক্ষুদ্র উপসর্গ প্রয়োজন
    • এটি স্থায়ীভাবে সমস্ত কাজের জন্য একযোগে বেস মডেল পুনর্লিখন করে
  5. উপসর্গ প্রশিক্ষণ স্থিতিশীল করতে প্রায়ই কোন কৌশল ব্যবহার করা হয়?
    • প্রতি ধাপে শেখার হার দ্বিগুণ করা
    • উপসর্গ হিমায়িত এবং মডেল প্রশিক্ষণ
    • সমস্ত মনোযোগ স্তর অপসারণ
    • একটি ছোট ফিড-ফরোয়ার্ড নেটওয়ার্কের মাধ্যমে উপসর্গটিকে পুনরায় প্যারামিটারাইজ করা যা পরে বাতিল করা হয়
  6. কোন ধরনের টাস্কে উপসর্গ টিউনিং বিশেষভাবে জ্বলজ্বল করে?
    • টেবিল-টু-টেক্সট এবং সারাংশের মতো প্রাকৃতিক ভাষা তৈরি করা
    • চিত্র শ্রেণীবিভাগ
    • অডিও ওয়েভফর্ম সংশ্লেষণ
    • ডাটাবেস ইনডেক্সিং
  7. What proportion of model parameters did the original prefix-tuning paper report learning in its experiments?
    • About 10%
    • About 0.1%
    • প্রায় ৫০%
    • All model parameters
  8. How did prefix-tuning perform in the paper’s low-data settings?
    • It always matched full fine-tuning on every task
    • It could not train with limited examples
    • It outperformed full fine-tuning in some evaluated low-data cases
    • It changed every backbone parameter