دليل الذكاء الاصطناعي المرئي

كشف الصور الاصطناعية

يقوم اكتشاف الصور الاصطناعية بتقدير ما إذا كانت الصورة قد تم إنشاؤها أو تغييرها باستخدام تقنيات معينة.

استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min

في هذه الصفحةقراءة لمدة دقيقتين
  1. نظرة عامة
  2. النقاط الرئيسية
  3. الغوص العميق
  4. عد الإنذارات الكاذبة
  5. التنفيذ في العالم الحقيقي
  6. وضعها موضع التنفيذ
  7. المصادر ومزيد من القراءة
  8. استمر في الاستكشاف
  9. الأسئلة المتداولة

نظرة عامة

وهو يختلف عن التحقق من مصدر الصورة أو تحديد ما إذا كان الادعاء المصور صحيحًا. تتطلب مخرجات الكاشف تفسيرًا دقيقًا لأنه يمكن أن تحدث نتائج إيجابية وسلبية كاذبة.

النقاط الرئيسية

  1. التحقق من شروط التقييم والمعدلات الأساسية.
  2. كشف منفصل عن المصدر والحقيقة.
  3. الحفاظ على عدم اليقين في القرارات المتعلقة بالناس.

الغوص العميق

اقرأ شروط التقييم. قد يعمل الكاشف الذي تم تدريبه على مجموعة واحدة من المولدات بشكل مختلف في النماذج الأحدث أو المخرجات المحررة أو لقطات الشاشة أو الصور المعاد ضغطها. قد لا تصف النتيجة المبلغ عنها من معيار متوازن مجموعة حقيقية تحتوي على عدد قليل جدًا من الصور الاصطناعية. التمييز بين نتيجة الكاشف والاحتمال المؤكد. تؤثر المعايرة واختيار العتبة وانتشار المحتوى الاصطناعي على التفسير. يمكن أن تكون النتيجة العالية سببًا للتحقيق دون تبرير اتهام علني. استخدم الأدلة التكميلية: الملفات الأصلية، وتاريخ المصدر، والبيانات التعريفية، وبيانات اعتماد المحتوى، والتأييد المستقل. يمكن أن تكون البيانات التعريفية مفقودة أو متغيرة، وتصف بيانات الاعتماد المصدر المسجل بدلاً من ضمان صحة كل ادعاء مرئي. تصميم سير عمل المراجعة الذي يأخذ في الاعتبار عدم اليقين. الحفاظ على الأدلة، وتوثيق الأدوات والإصدارات المستخدمة، وشرح الأساس لأي استنتاج. تجنب معاقبة الأشخاص تلقائيًا بناءً على نتيجة كاشف واحدة لم يتم التحقق من صحتها.

04عملت المثال

عد الإنذارات الكاذبة

  1. أنشئ مجموعة مكونة من 1000 صورة حقيقية و10 صور صناعية. لنفترض أن الكاشف يضع علامة على 1% من الصور الأصلية ويلتقط 8 صور اصطناعية.

  2. وينتج 10 إنذارات كاذبة و8 اكتشافات حقيقية، لذا فإن 8 فقط من أصل 18 صورة تم وضع علامة عليها هي صور اصطناعية في هذا المثال.

  3. قم بالإبلاغ عن الأعداد الفعلية ومراجعة الأدلة قبل تقديم مطالبة بشأن أي صورة.

ما يظهر

توضح الأرقام المُخترعة تأثيرات المعدل الأساسي، وليس أداء كاشف حقيقي.

التنفيذ في العالم الحقيقي

قم بتقييم الكاشف على نفس مصادر الضغط والصورة المتوقعة قيد الاستخدام.

قم بدمج مخرجات الكاشف مع مراجعة المصدر بدلاً من التعامل معها كحكم.

وضعها موضع التنفيذ

لماذا يهم

  • السرعة والحجم. يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
  • خيارات البناء. يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
  • الفريق وسير العمل. يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.

احترس من

  • يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
  • يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
  • قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.

الخطوات التالية

  1. تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
  2. اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
  3. أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
  4. تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.

المصادر ومزيد من القراءة

  1. NISTأساليب شفافية المحتوى الرقمي
  2. C2PAشرح بيانات اعتماد المحتوى

استمر في الاستكشاف

رسالة إخبارية مجانية

احصل على الإحاطة اليومية لمنظمة العفو الدولية

ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.

بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.

اختبر نفسك

Take the Synthetic Image Detection quiz

تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.

ابدأ الاختبار

دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع

الأسئلة المتداولة

هل فقدان بيانات اعتماد المحتوى يعني أن الصورة مزيفة؟

لا، البيانات الوصفية للمصدر ليست موجودة عالميًا. وغيابها وحده لا يثبت أن الصورة اصطناعية أو خادعة.