গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
LoRA এবং প্যারামিটার-দক্ষ টিউনিং কুইজ
হিমায়িত LoRA ওজন, প্রশিক্ষণযোগ্য-রাষ্ট্রীয় সঞ্চয়, র্যাঙ্ক, QLoRA সঞ্চয়স্থান, সামঞ্জস্যপূর্ণ একত্রীকরণ, ভাগ করা বেস, পরামিতি গণনা এবং দ্বিগুণ পরিমাপ পর্যালোচনা করুন।
প্রশ্ন 1 এর 8
In the original LoRA formulation for a selected weight matrix, what is learned while that matrix stays frozen?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- In the original LoRA formulation for a selected weight matrix, what is learned while that matrix stays frozen?
- A replacement vocabulary with no weight update
- Every entry of the full base matrix from random initialization
- Two factor matrices forming an additive low-rank update
- A permanent deletion of the entire selected layer
- Which resource requirements can fewer trainable LoRA parameters reduce compared with full fine-tuning?
- Every base-model computation by definition
- All activation storage regardless of the training procedure
- A guaranteed universal percentage of total runtime memory
- Optimizer-state and task-checkpoint requirements
- একটি LoRA অ্যাডাপ্টারের র্যাঙ্ক 'r' কী নিয়ন্ত্রণ করে?
- দুটি নিম্ন-র্যাঙ্ক ম্যাট্রিসের অভ্যন্তরীণ মাত্রা, অ্যাডাপ্টারের ক্ষমতা সেট করে
- বেস মডেলের স্তরের সংখ্যা
- প্রশিক্ষণের সময় শেখার হার
- কত GPU প্রয়োজন
- Which storage and adaptation choices are combined in the QLoRA paper?
- Updating every base weight directly as a 4-bit integer gradient
- A frozen low-bit base with trainable LoRA adapters
- Removing all adapters and all task data
- A guarantee that every model fits every consumer GPU
- What can a compatible dense merge of a LoRA update remove from that layer's inference computation?
- The need to evaluate the base layer at all
- Every possible dtype compatibility requirement
- A requirement that all future task updates become identical
- The need to evaluate a separate adapter branch
- Which reuse pattern is supported by storing compatible task adapters separately from a base checkpoint?
- Every adapter automatically makes every task factually correct
- All serving systems must switch tasks with zero overhead
- Multiple task updates can share the same pretrained base
- The base checkpoint is no longer needed for inference
- For a stated 4-by-4 weight update with rank-one factors shaped 4-by-1 and 1-by-4, how many factor parameters are there?
- ষোল
- আট
- চার
- Thirty-two
- What does QLoRA's double-quantization technique compress in addition to the base weight representation?
- The quantization constants
- Every task label into a second unrelated category
- The adapter gradients twice by definition
- A second complete copy of the base model