اختبار مرتبط بالدليل · متوسط المستوى

اختبار النماذج على مستوى البايت الخالية من الرمز المميز

فهم نماذج لغة البايت الخام، والتصحيحات المستندة إلى الإنتروبيا الخاصة بـ BLT، ومقايضات الكفاءة والتغطية لإزالة مفردات الرموز المميزة الثابتة.

مسارات الدليل ذات الصلةنماذج مستوى البايت المجانية لـ Tokenizer
سؤال 1 من 8

ما الذي يقرأه نموذج مستوى البايت الخالي من الرموز المميزة كوحدات الإدخال الخاصة به؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

  1. ما الذي يقرأه نموذج مستوى البايت الخالي من الرموز المميزة كوحدات الإدخال الخاصة به؟
    • البايتات الأولية (قيم UTF-8 من 0 إلى 255)
    • كلمات فرعية مكونة من كلمة من مفردات ثابتة
    • الكلمات الكاملة مفصولة بمسافات
    • التضمينات المحسوبة مسبقًا فقط
  2. ما هو العيب العملي الرئيسي لتغذية البايتات الخام إلى محول قياسي؟
    • لا يمكن أن تمثل وحدات البايت نصًا بلغة غير الإنجليزية
    • تصبح التسلسلات أطول بكثير، مما يزيد من تكلفة الحوسبة
    • يوجد عدد كبير جدًا من قيم البايت الممكنة لتضمينها
    • تفقد البايتات كل معاني الكلمات بشكل دائم
  3. كيف يقرر محول البايت الكامن (BLT) مكان تجميع البايتات في التصحيحات؟
    • عن طريق التقسيم على كل حرف الفضاء
    • باستخدام حجم تصحيح ثابت يبلغ 4 بايت
    • استنادًا إلى إنتروبيا التنبؤ على مستوى البايت (عدم اليقين)
    • بشكل عشوائي خلال كل تمريرة للأمام
  4. Why can a fixed subword vocabulary use more tokens for some languages than others?
    • Subword tokenizers only accept ASCII
    • All languages have identical token boundaries
    • They cannot represent numerals
    • Its token inventory may reflect the language distribution in the data used to build it
  5. What does removing a fixed tokenizer guarantee about byte-level input?
    • The same byte alphabet can represent text from different scripts, while learned language ability still depends on data
    • The model understands every language without training data
    • It guarantees equal performance for all scripts
    • The model no longer needs a vocabulary or learned embeddings
  6. ما النموذج السابق الذي أظهر معالجة على مستوى البايت ولكن تم انتقاده لكونه بطيئًا؟
    • بيرت
    • بواسطةT5
    • Word2Vec
    • جي بي تي-2
  7. What representations does BLT’s large global Transformer process?
    • Individual words from a fixed subword vocabulary only
    • بكسل الصورة
    • Dynamically sized byte patches
    • Robot joint-angle commands
  8. Which components surround the global Transformer in BLT?
    • A reward model and a value network
    • A speech vocoder and a spectrogram
    • A camera and a lidar sensor
    • A local byte encoder and a local byte decoder