اختبار التعبئة المسبقة وفك التشفير المفصل

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. ما هو السبب الأساسي للأجهزة لفصل التعبئة المسبقة وفك التشفير في مجموعات GPU المختلفة؟
   • يكون الملء المسبق مرتبطًا بالحساب بينما يكون فك التشفير مرتبطًا بعرض النطاق الترددي للذاكرة
   • يستخدمون لغات برمجة مختلفة
   • يتطلب فك التشفير كهرباء أكثر من التعبئة المسبقة
   • لا يمكن تشغيل التعبئة المسبقة على وحدات معالجة الرسومات على الإطلاق
2. ما هي بنية البيانات التي يجب نقلها من عمال التعبئة المسبقة إلى فك تشفير العمال؟
   • الأوزان النموذجية
   • ذاكرة التخزين المؤقت KV (قيمة المفتاح).
   • المفردات الرمزية
   • حالة المحسن
3. ما هي المشكلة التي يقللها التصنيف على وجه التحديد في إعداد وحدة معالجة الرسومات المشتركة؟
   • تعطل برنامج تشغيل GPU
   • فقدان حزم الشبكة على الإنترنت
   • حظر رأس الخط حيث تؤدي التعبئة المسبقة الطويلة إلى تعطيل فك تشفير الآخرين
   • الهلوسة النموذجية
4. لماذا يمكن تجميع التعبئة المسبقة بقوة مع فك تشفير الفوائد من الضبط المختلف؟
   • فك التشفير لا يستخدم GPU أبدًا
   • يتم تشغيل التعبئة المسبقة مرة واحدة فقط يوميًا
   • الخلط مستحيل أثناء التعبئة المسبقة
   • تتم قراءة الرموز المميزة للملء المسبق بالتوازي، مما يزيد من الاستفادة من الحوسبة لكل تمريرة
5. ما هي الوصلات البينية التي تُستخدم عادةً لنقل ذاكرة التخزين المؤقت KV بين التجمعات المنفصلة؟
   • NVLink أو InfiniBand
   • مودم الطلب الهاتفي
   • كابلات يو اس بي 2.0
   • بلوتوث
6. ما هي الأنظمة المسماة المرتبطة بخدمة التعبئة المسبقة/فك التشفير المفصلة؟
   • TCP، UDP، وHTTP
   • DistServe، وSplitwise، وMooncake
   • وورد، وإكسل، وباوربوينت
   • JPEG، PNG، و GIF
7. Why must the KV cache produced during prefill be available to the decode workers?
   • It contains the model’s optimizer state
   • It stores the user’s GPU allocation
   • Decode uses cached prompt keys and values to generate subsequent tokens without recomputing the whole prompt
   • It is needed only to calculate validation accuracy
8. What is a resource-allocation benefit of separating prefill and decode pools?
   • Both phases must use identical batch sizes
   • The model no longer needs a KV cache
   • The scheduler can eliminate all network communication
   • Each phase can be sized and parallelized for its own compute or memory bottleneck