गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

फ़ंक्शन वेक्टर और कार्य प्रतिनिधित्व प्रश्नोत्तरी

अध्ययन करें कि कैसे फ़ंक्शन वैक्टर को ध्यान प्रमुखों से निकाला जाता है, छिपी हुई स्थितियों में इंजेक्ट किया जाता है, और कार्य संदर्भों में परीक्षण किया जाता है।

प्रश्न 1 का 8

What does a function vector represent in the studied language models?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. What does a function vector represent in the studied language models?
    • A compact activation-space representation associated with a demonstrated task
    • The model’s full weight matrix
    • A single token embedding in every setting
    • The optimizer’s learning rate
  2. फ़ंक्शन वेक्टर का निर्माण आम तौर पर कैसे किया जाता है?
    • शब्दावली में सभी शब्द एम्बेडिंग को संक्षेप में प्रस्तुत करके
    • उदाहरण संकेतों पर ध्यान केंद्रित करने वाले विशिष्ट कार्य के आउटपुट का औसत करके
    • एक उदाहरण पर मॉडल को ठीक करके
    • अंतिम सॉफ़्टमैक्स संभावनाओं को पढ़कर
  3. What did the function-vector paper observe after injecting a vector into a zero-shot prompt?
    • The model always crashed
    • It guaranteed correct answers on any task
    • It could trigger the associated task in the tested settings
    • It permanently changed the model weights
  4. कौन सी विश्लेषण तकनीक उन शीर्षों को खोजने पर आधारित है जो फ़ंक्शन वेक्टर ले जाते हैं?
    • हानि पर धीरे-धीरे उतरना
    • किरण खोज
    • ड्रॉपआउट नियमितीकरण
    • कारण मध्यस्थता विश्लेषण
  5. What do function-vector experiments provide evidence for?
    • Some models form reusable internal representations associated with tasks
    • All language models only memorize text
    • Every model has one universal task vector
    • Tokenization alone determines every behavior
  6. Why are function vectors interesting to steering research?
    • They guarantee safe or correct behavior
    • They provide an activation-level intervention that can influence task behavior in tested settings
    • They eliminate prompts for every application
    • They make all model decisions fully transparent
  7. At what part of the transformer did the paper report strong function-vector effects?
    • Only the input embedding table
    • Only the final output logits
    • Middle layers in the tested models
    • टोकनाइज़र शब्दावली
  8. What happened when researchers summed some function vectors?
    • The vectors always canceled to zero
    • The model’s weights were permanently updated
    • Every possible task was composed perfectly
    • Some combinations triggered new complex tasks in the tested experiments