গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
প্রম্পট টিউনিং কুইজ
ইনপুট স্তরে নরম প্রম্পট, হিমায়িত-মডেল সেটআপ এবং প্রম্পট টিউনিংয়ের জন্য রিপোর্ট করা স্কেল-নির্ভর ফলাফলগুলি পর্যালোচনা করুন।
প্রশ্ন 1 এর 8
প্রম্পট টিউনিং এ 'সফট প্রম্পট' কি?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- প্রম্পট টিউনিং এ 'সফট প্রম্পট' কি?
- ক্রমাগত এমবেডিং ভেক্টর শিখেছি যার বাস্তব শব্দের সাথে মানচিত্র প্রয়োজন হয় না
- একটি ভদ্রভাবে শব্দযুক্ত পাঠ্য নির্দেশ
- মডেলের একটি ছোট পাতিত কপি
- হিমায়িত আউটপুট লগিটগুলির একটি সেট৷
- কোথায় প্রম্পট টিউনিং এর প্রশিক্ষণযোগ্য ভেক্টর যোগ করে?
- প্রতিটি ট্রান্সফরমার স্তরে
- শুধুমাত্র ইনপুট এমবেডিং স্তরে
- শুধুমাত্র আউটপুট স্তর এ
- অপ্টিমাইজার অবস্থার ভিতরে
- মডেল স্কেল সম্পর্কে মূল কাগজ হাইলাইট কি আশ্চর্যজনক প্রভাব?
- মডেল বাড়ার সাথে সাথে প্রম্পট টিউনিং আরও খারাপ হয়
- স্কেল প্রম্পট টিউনিং এর উপর কোন প্রভাব নেই
- মডেলগুলি বড় হওয়ার সাথে সাথে প্রম্পট টিউনিং সম্পূর্ণ সূক্ষ্ম-টিউনিং গুণমানের কাছে আসে
- বড় মডেল আর প্রম্পট-টিউন করা যাবে না
- কে প্রম্পট টিউনিং চালু করেন?
- 2016 সালে ডিপমাইন্ড
- 2023 সালে Anthropic
- 2019 সালে Microsoft
- 2021 সালে Google (লেস্টার, আল-আরফৌ, কনস্ট্যান্ট) এর গবেষকরা
- কিভাবে প্রম্পট টিউনিং একটি মডেল থেকে অনেকগুলি কাজ পরিবেশন করতে সক্ষম করে?
- মডেল হিমায়িত থাকাকালীন প্রতিটি কাজ তার নিজস্ব ক্ষুদ্র নরম প্রম্পট ব্যবহার করে
- এটি প্রতিটি অনুরোধের জন্য পুরো মডেলটিকে পুনরায় প্রশিক্ষণ দেয়
- এটি ওজন থেকে অব্যবহৃত কাজগুলি মুছে ফেলে
- এটি প্রতি টাস্ক একটি পৃথক GPU প্রয়োজন
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- ওয়েভনেট
- AlphaFold2
- T5
- বিচ্ছিন্ন বন
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors