الدليل الفني

حافة الذكاء الاصطناعي

يقوم Edge AI بتشغيل معالجة النماذج بالقرب من مكان جمع البيانات أو استخدامها، مثل الهاتف أو الكاميرا أو السيارة أو البوابة المحلية.

استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min

في هذه الصفحةقراءة لمدة دقيقتين
  1. نظرة عامة
  2. النقاط الرئيسية
  3. الغوص العميق
  4. عد أكثر من أوزان النماذج
  5. التنفيذ في العالم الحقيقي
  6. وضعها موضع التنفيذ
  7. المصادر ومزيد من القراءة
  8. استمر في الاستكشاف
  9. الأسئلة المتداولة

نظرة عامة

يمكن أن يقلل الاعتماد على الخدمة عن بعد. تعتمد فوائده وقيوده على الأجهزة وعبء العمل والاتصال والتطبيق المحيط.

النقاط الرئيسية

  1. اختبار الجهاز الفعلي وعبء العمل.
  2. تضمين ذاكرة الذروة وسلوك الطاقة المستمر.
  3. خطط للسلوك والتحديثات وعناصر التحكم في البيانات دون اتصال بالإنترنت.

الغوص العميق

تحديد ما يجب أن يحدث محليًا وما يمكن تأجيله أو إرساله إلى الخادم. تحتاج الميزة غير المتصلة بالإنترنت إلى وضع فشل مفيد عند اختفاء الاتصال؛ قد لا يكون النموذج المحلي الذي لا يزال يعتمد على الاسترجاع عن بعد غير متصل بالإنترنت بشكل كامل. قم بقياس الذاكرة والحوسبة واستخدام البطارية والحرارة والأداء المستمر على فئة الجهاز الفعلية. يمكن أن يفوتك المعيار القصير الاختناق الحراري أو المنافسة مع التطبيقات الأخرى. حجم النموذج وحده لا يأخذ في الاعتبار الذاكرة العاملة والمهام المتزامنة. قد يساعد الضغط أو التكميم أو البنية الأصغر في تناسب حجم العمل، ولكن يتم تقييم المهمة بعد كل تغيير. تحقق من المدخلات والظروف الصعبة في البيئة المقصودة، مثل الإضاءة الضعيفة أو الصوت المزعج أو البطارية المنخفضة. تحديثات الخطة ومعالجة البيانات. يمكن أن تقلل المعالجة المحلية من بعض عمليات نقل البيانات، لكن السجلات والمزامنة والميزات المتصلة لا تزال بحاجة إلى ضوابط الخصوصية. حافظ على إمكانية التعرف على إصدارات الطراز ودعم التحديث الآمن أو مسار التراجع عبر الأجهزة التي قد يتم إعادة الاتصال بها بشكل غير متكرر.

04عملت المثال

عد أكثر من أوزان النماذج

  1. تخيل جهازًا بسعة 2 جيجابايت متاحًا لميزة الذكاء الاصطناعي. تشغل أوزان النموذج 1.2 جيجابايت، وتتطلب المخازن المؤقتة 0.6 جيجابايت أخرى.

  2. يبقى فقط 0.2 غيغابايت قبل النظر في احتياجات الميزات الأخرى. قد يتجاوز الإدخال الأطول الميزانية.

  3. اختبر ذاكرة الذروة الواقعية وحدد حدًا رشيقًا بدلاً من إعلان التوافق من حجم الوزن وحده.

ما يظهر

توضح ميزانية الذاكرة المبتكرة قيود النشر، وليس مواصفات جهاز معين.

التنفيذ في العالم الحقيقي

قم بتشغيل مصنف صغير محليًا عندما لا يتوفر اتصال.

اختبر الأداء المستمر على جهاز تمثيلي منخفض الذاكرة.

وضعها موضع التنفيذ

لماذا يهم

  • التكلفة والميزانية. تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
  • قرارات أوضح. يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
  • مراقبة الجودة. تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.

احترس من

  • يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
  • غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
  • يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.

الخطوات التالية

  1. تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
  2. المعيار في ظل ظروف التحميل والبيانات الواقعية.
  3. مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
  4. قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.

المصادر ومزيد من القراءة

  1. NVIDIAأفضل ممارسات أداء الاستدلال

استمر في الاستكشاف

رسالة إخبارية مجانية

احصل على الإحاطة اليومية لمنظمة العفو الدولية

ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.

بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.

اختبر نفسك

Take the Edge AI quiz

تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.

ابدأ الاختبار

دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع

الأسئلة المتداولة

هل الذكاء الاصطناعي الحافة دائمًا أسرع من الذكاء الاصطناعي السحابي؟

لا، فقد يؤدي ذلك إلى تقليل تأخير الشبكة، ولكن يمكن أن تهيمن قيود الأجهزة والنماذج المحلية. قارن المهمة الكاملة على الأجهزة التمثيلية.

استمر في التعلم

أدلة ذات صلة

تم اختيار المزيد من الأدلة لهذا الموضوع

احصل على شهادة الذكاء الاصطناعي المجانيةدورة مجانية قصيرة واختبار. لا تكلفة ولا بطاقة. حوالي 2.5 ساعة.ابدأ مجانًا →