تعليق الصورة
التعليق على الصور هو مهمة إنشاء جملة باللغة الطبيعية تصف ما هو موجود في الصورة تلقائيًا.
نظرة عامة
It bridges vision and language, turning pixels into words that explain content, objects, and actions.
الغوص العميق
تلتقط أنظمة التعليق على الصور صورة وتخرج وصفًا سلسًا مثل "كلب بني اللون يصطاد طبقًا طائرًا على العشب". قامت الأنظمة المبكرة بإقران شبكة تلافيفية تستخرج الميزات المرئية مع شبكة متكررة (LSTM) تولد الكلمات واحدة تلو الأخرى، وغالبًا ما تسترشد بالانتباه، لذلك "ينظر" النموذج إلى المناطق ذات الصلة لكل كلمة. تستخدم الأنظمة الحديثة أجهزة تشفير المحولات للرؤية وأجهزة فك تشفير المحولات للغة، ويمكن لنماذج لغة الرؤية الكبيرة مثل BLIP-2 وGPT-4V تعليق الصور بطلاقة ملحوظة. يعتمد التدريب على مجموعات البيانات مثل MS COCO، حيث تحتوي كل صورة على عدة تعليقات مكتوبة بواسطة الإنسان. يتم قياس الجودة باستخدام مقاييس مثل CIDEr وBLEU وCLIPScore القائم على التضمين.
البصيرة الفنية
يتبع معظم المعلقين نمط التشفير وفك التشفير. يقوم برنامج التشفير بتحويل الصورة إلى مجموعة من ناقلات المعالم؛ يقوم جهاز فك التشفير بإنشاء الكلمات بشكل انحداري، ويتنبأ بكل رمز مميز مشروط بالصورة والكلمات التي تم إنشاؤها مسبقًا. يتيح الانتباه لجهاز فك التشفير وزن مناطق الصورة المختلفة لكل كلمة، مما يؤدي إلى تحسين التأريض. يستخدم التدريب الإنتروبيا المتقاطعة في التسميات التوضيحية للحقيقة الأرضية، ويتبعه أحيانًا التعلم المعزز الذي يعمل على تحسين مقياس جودة التسميات التوضيحية مثل CIDEr مباشرةً لتقليل انحياز التعرض.
التأثير الاستراتيجي
السرعة والحجم
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
خيارات البناء
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
الفريق وسير العمل
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
مستقبل التعليق على الصور
يتم دمج التسميات التوضيحية في نماذج لغة الرؤية العامة التي لا تصف فحسب، بل تجيب أيضًا على الأسئلة والسبب واتباع التعليمات المتعلقة بالصور. توقع تسميات توضيحية أكثر كثافة وأكثر قابلية للتحكم (طول أو نمط أو تركيز قابل للتعديل)، وأساس واقعي أفضل للحد من الكائنات المهلوسة، وأدوات وصول أقوى تروي العالم المرئي في الوقت الفعلي. سيتم توسيع نطاق التسميات التوضيحية المتعددة اللغات والفيديو، وستوفر النماذج الموجودة على الجهاز أوصافًا خاصة وفورية للهواتف والأجهزة القابلة للارتداء للمستخدمين المكفوفين وضعاف البصر.
التنفيذ في العالم الحقيقي
إنشاء أوصاف نص بديل للصور حتى تتمكن برامج قراءة الشاشة من مساعدة المستخدمين المكفوفين وضعاف البصر
اقتراح التسميات التوضيحية والعلامات القابلة للبحث تلقائيًا لمكتبات الصور الكبيرة ومنصات تخزين الصور
وصف المناطق المحيطة بصوت عالٍ من خلال تطبيقات مثل Microsoft Seeing AI أو Be My Eyes
فهرسة إطارات الفيديو مع أوصاف نصية لتمكين البحث عن المحتوى والإشراف عليه على نطاق واسع
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Image Captioning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
نماذج الصور فلوكس
الأسئلة المتداولة
What is Image Captioning?
التعليق على الصور هو مهمة إنشاء جملة باللغة الطبيعية تصف ما هو موجود في الصورة تلقائيًا. فهو يربط بين الرؤية واللغة، ويحول وحدات البكسل إلى كلمات تشرح المحتوى والأشياء والإجراءات.
ما الذي ينتجه نظام التعليق على الصور كمخرجات؟
يُنشئ التعليق على الصورة جملة نصية تصف محتويات الصورة.
في مسار التسميات التوضيحية الكلاسيكي، ما هو الدور الذي يلعبه برنامج التشفير المرئي؟
يقوم برنامج التشفير (غالبًا ما يكون CNN أو محول الرؤية) بتحويل الصورة إلى ناقلات المعالم التي يستخدمها برنامج فك ترميز اللغة بعد ذلك.
لماذا يعد الاهتمام مفيدًا في التعليق على الصور؟
يساعد الانتباه وحدة فك التشفير على "النظر" إلى الأجزاء الأكثر صلة بالصورة عند إنشاء كل كلمة، مما يؤدي إلى تحسين التأريض.
ما هي مجموعة البيانات المستخدمة على نطاق واسع للتدريب وتقييم التسميات التوضيحية للصور؟
يوفر MS COCO صورًا مقترنة بالعديد من التسميات التوضيحية المكتوبة بواسطة الإنسان، مما يجعلها معيارًا قياسيًا للتسميات التوضيحية.
ماذا يعني أن تقوم وحدة فك ترميز التسمية التوضيحية بإنشاء كلمات "بشكل انحدار تلقائي"؟
يُنتج إنشاء الانحدار التلقائي الرموز المميزة واحدة تلو الأخرى، كل منها مشروط بالرموز المميزة السابقة والصورة.