ماذا حدث
أصدر مشروع llama.cpp الإصدار 0.3.0 في 25 أغسطس، وفقًا لصفحة إصدار GitHub الخاصة به. يضيف التحديث دعمًا لنموذج الوسائط المتعددة dots3-note، بما في ذلك نوع ذاكرة التخزين المؤقت لقيمة المفتاح DSA-ISWA الجديد، ويضيف معالجة الرؤية والصوت لهذا النموذج. كما يقدم أيضًا وضع تقسيم الموتر لـ DeepSeek 4، ويصلح التراجع متعدد التسلسلات، ويضيف دعم التنبؤ متعدد الرموز لـ GLM-4.5-Air.
تحدد صفحة GitHub الإصدار v0.3.0 باعتباره الإصدار الأخير من مستودع llama.cpp العام وتسجل الإصدار في الساعة 10:22 يوم 25 أغسطس. يتم تقديم الإصدار كتحديث أساسي للإصدار بدلاً من تصحيح صيانة صغير. تتعلق تغييراته المركزية بكيفية دعم البرنامج لنماذج الذكاء الاصطناعي وتنفيذها، بما في ذلك نموذج جديد متعدد الوسائط، وميزات الاستدلال الخاصة بالنموذج، وتوازي الموتر، والتغييرات على المكونات المشتركة التي يستخدمها الخادم والأدوات الأخرى. أبرز إضافة للنموذج هي dots3-note. تشير ملاحظات الإصدار إلى أن llama.cpp يضيف النموذج مع نوع ذاكرة التخزين المؤقت لقيمة المفتاح DSA-ISWA الجديد. وهي تسرد بشكل منفصل دعم رؤية dots3-note والصوت وصور WebP من خلال ffmpeg وخوارزمية تغيير الحجم الدقيقة. تشير الملاحظات أيضًا إلى أنه تم إصلاح تحميل الفيديو عندما تظهر ذرة الحركة الخاصة بالملف في النهاية. تشير هذه التغييرات إلى أن المشروع يمتد إلى ما هو أبعد من تنفيذ النموذج الموجه نحو النص إلى مجموعة أوسع من مدخلات الوسائط، على الرغم من أن المصدر لا يصف إمكانات النموذج أو التطبيقات المقصودة.
بالنسبة إلى DeepSeek 4، يضيف الإصدار 0.3.0 وضع تقسيم الموتر من خلال خيار "-sm Tensor" ويصلح التراجع عندما تكون تسلسلات متعددة نشطة. يُبلغ الإصدار أيضًا عن تصحيح لنشر حالة الانقسام الموتر للتنفيذ المتوازي للموتر. بشكل منفصل، يتلقى GLM-4.5-Air دعم التنبؤ متعدد الرموز، بينما يتلقى Bailingmoe3 دعم DSpark. هذه هي التغييرات على مستوى التنفيذ التي تؤثر على كيفية تنفيذ نماذج معينة، أو موازنتها، أو تسريعها؛ لا يدعي الإصدار أنه يعمل على تحسين جودة النموذج.
يقوم التحديث أيضًا بنقل مكون ggml إلى الإصدار 0.22.0. تصف الملاحظات دعم تقسيم الموتر في الواجهة الخلفية التعريفية المتعددة الخلفية لـ ggml، وانتشار حالة الانقسام المحسّن، والمصادر المعدنية لكل عملية مع تجميع متوازي، والتصحيح الذي يجعل ggml_clamp عملية مناسبة غير في مكانها. تغطي التغييرات الإضافية العمليات الجديدة، ونواة Q2_K SYCL، ودمج تحيز خليط الخبراء في OpenCL، والإصلاحات عبر CUDA، وMetal، وSYCL، وVulkan، وOpenCL، وWebGPU. يكتسب الخادم متغير بيئة لتوسيع اختلافات تصحيح الأخطاء، وتكتسب واجهة الويب التنقل عبر الدردشة المبوب.
لماذا يهم
يوسع الإصدار نطاق نماذج الذكاء الاصطناعي وأنواع المدخلات المدعومة من خلال تطبيق مفتوح المصدر مستخدم على نطاق واسع مع معالجة مشكلات الذاكرة والتوازي والواجهة الخلفية المرتبطة بتشغيل نماذج أكبر أو أكثر تعقيدًا. سيعتمد التأثير العملي على الأجهزة وملفات النماذج وتكوين البنية والواجهة الخلفية المحددة المستخدمة.
تكمن الأهمية العملية في أن حزمة تنفيذ النماذج مفتوحة المصدر تضيف دعمًا لبنيات وطرائق نماذج أكثر تنوعًا في نفس الإصدار. بالنسبة للمطورين والباحثين الذين يستخدمون llama.cpp، فإن دعم رؤية dots3-note ومدخلات الصوت يمكن أن يقلل الحاجة إلى الحفاظ على مسارات تنفيذ منفصلة لتلك المدخلات. تثبت ملاحظات الإصدار وجود الدعم، لكنها لا تحدد مدى اكتماله أو سرعته أو موثوقيته على أجهزة معينة.
يعد تقسيم Tensor أمرًا مهمًا لأنه يتعلق بكيفية توزيع عبء عمل النموذج أو حالته عبر الأجهزة. يمكن أن تجعل تغييرات DeepSeek 4 البرنامج أكثر قابلية للاستخدام للأشخاص الذين تنقسم حساباتهم المتاحة عبر أجهزة متعددة، في حين أن إصلاح التراجع قد يكون مهمًا لأحمال العمل التي تحافظ على أكثر من تسلسل نشط واحد. هذه هي فوائد تشغيلية معقولة ترتكز على التغييرات المدرجة، وليس النتائج المقاسة: لا يوفر المصدر أي مقارنات للإنتاجية أو الذاكرة أو زمن الاستجابة أو معدل الفشل مقابل الإصدار 0.2.0.
تعمل تغييرات ggml على توسيع نطاق الإصدار عبر الواجهات الخلفية للأجهزة. قد يؤثر التجميع المتوازي للمصادر المعدنية على أوقات الإنشاء، بينما تعمل حالة الانقسام الخلفية الوصفية وإصلاحات CUDA وSYCL وVulkan وOpenCL وWebGPU على معالجة طبقة قابلية النقل التي تربط النماذج بأنواع مختلفة من الأجهزة. يسرد الإصدار أيضًا تغييرًا في إسقاط Mamba2 يهدف إلى إرسال GEMM بدلاً من GEMV، لكنه لا يحدد أي مكاسب في الأداء. لذلك، يجب على المستخدمين التعامل مع الملاحظات على أنها سجل تغييرات في التنفيذ، وليس كتقرير مرجعي.
إن الإصدار مهم للنظام البيئي الأوسع للذكاء الاصطناعي لأن دعم النموذج لا يتشكل فقط من قبل منشئي النماذج ولكن أيضًا من خلال طبقة البرنامج التي تجعل النماذج قابلة للتنفيذ على أنظمة مختلفة. يمكن أن تؤثر إضافة نموذج أو طريقة على المشاريع العملية للنشر المحلي أو المتخصص. ومع ذلك، لا تزال هناك أشياء مجهولة ذات معنى: لا يذكر المصدر شروط الترخيص أو التوزيع لـ dots3-note، أو أوزان الطراز المطلوبة، أو أنظمة التشغيل المدعومة، أو الحد الأدنى من الأجهزة، أو تنسيقات الصوت والفيديو المدعومة بما يتجاوز الإصلاحات المدرجة، أو ما إذا كانت جميع الميزات متوفرة في الأصل الليلي.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
Which component of an AI application is the machine-learning model itself?
ماذا تشاهد بعد ذلك
لا توفر ملاحظات الإصدار معايير مستقلة أو متطلبات الأجهزة أو مصفوفات التوافق أو دليلاً على عمليات نشر الإنتاج. المتابعة الرئيسية هي ما إذا كان المستخدمون يبلغون عن أداء موثوق به لمسارات الرؤية والصوت الخاصة بـ dots3-note، وتقسيم موتر DeepSeek 4 عبر الأجهزة، والواجهات الخلفية المحدثة لـ CUDA وMetal وSYCL وVulkan وOpenCL وWebGPU.
نقطة التحقق الأولى هي التغطية الوظيفية لـ dots3-note. يشير الإصدار إلى دعم الرؤية والصوت، وفك تشفير WebP، وإصلاحات تحميل الفيديو، وسلوك تغيير الحجم، ولكنها لا تتضمن أمثلة اختبارية أو جداول إدخال مدعومة. يجب أن يحدد الاختبار المستقل التنسيقات التي تعمل، وكيف تؤثر المعالجة المسبقة على النتائج، وما إذا كان من الممكن الجمع بين الصوت والرؤية، وما إذا كان السلوك متسقًا عبر الواجهات الخلفية المدعومة. وحتى ذلك الحين، يجب أن يُفهم "الدعم" على أنه مطالبة بالتنفيذ على مستوى المشروع وليس دليلاً على الاستعداد للإنتاج.
المشكلة الثانية هي التأثير الواقعي لتقسيم موتر DeepSeek 4. سيحتاج المستخدمون إلى تحديد ما إذا كان "-sm Tensor" يعمل عبر أجهزتهم الخاصة، وكيفية تقسيم الذاكرة، وما إذا كان التراجع متعدد التسلسلات يظل موثوقًا به في ظل أعباء العمل الطويلة أو المتزامنة. لا يقدم المصدر قائمة الأجهزة أو بيانات الأداء أو تحليل الأخطاء. ستكون التقارير الواردة من المشرفين والمستخدمين مفيدة بشكل خاص لأن سلوك الموتر المتوازي يمكن أن يختلف باختلاف برامج التشغيل والميزات المجمعة ومجموعات الأجهزة وتكوين النموذج.
المجال الثالث هو التكافؤ الخلفي. يتضمن الإصدار تحديثات لكل من CUDA وMetal وSYCL وVulkan وOpenCL وWebGPU، لكنه لا يذكر أن كل نموذج أو عملية جديدة تعمل بشكل متساوٍ على كل واجهة خلفية. يشير سجل التغيير نفسه إلى أنه تم تعطيل اختبار بنية dots3-note لـ WebGPU، وهو سبب ملموس لتجنب افتراض التغطية الكاملة للواجهة الخلفية. يجب أن توضح وثائق المتابعة أو نتائج الاختبار ما هو ممكن أو تجريبي أو محدود أو غير متوفر.
وأخيرًا، ستظهر الإصدارات اللاحقة للمشروع ما إذا كانت هذه التغييرات ستظل مستقرة أم لا. تتضمن العناصر التي تستحق المراقبة إصلاحات لتحميل dots3-note والمعالجة المسبقة للوسائط، والانحدارات التي تتضمن التنبؤ بالرموز المتعددة أو عمليات التضمين، والمزيد من تغييرات التوازي DeepSeek 4، وتحديثات لمنطق تركيب فتحة الخادم. يتضمن الإصدار أصول بناء ليلية، لكن المصدر لا يشرح عبواتها أو إمكانية تكرارها أو علاقتها بالإصدارات المستقرة. لا يوجد دليل مستقل في المواد المقدمة يثبت الاعتماد أو نطاق النشر أو تأثير المستخدم.