دليل الذكاء الاصطناعي المرئي
كشف الصور الاصطناعية
يقوم اكتشاف الصور الاصطناعية بتقدير ما إذا كانت الصورة قد تم إنشاؤها أو تغييرها باستخدام تقنيات معينة.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
وهو يختلف عن التحقق من مصدر الصورة أو تحديد ما إذا كان الادعاء المصور صحيحًا. تتطلب مخرجات الكاشف تفسيرًا دقيقًا لأنه يمكن أن تحدث نتائج إيجابية وسلبية كاذبة.
النقاط الرئيسية
- التحقق من شروط التقييم والمعدلات الأساسية.
- كشف منفصل عن المصدر والحقيقة.
- الحفاظ على عدم اليقين في القرارات المتعلقة بالناس.
الغوص العميق
اقرأ شروط التقييم. قد يعمل الكاشف الذي تم تدريبه على مجموعة واحدة من المولدات بشكل مختلف في النماذج الأحدث أو المخرجات المحررة أو لقطات الشاشة أو الصور المعاد ضغطها. قد لا تصف النتيجة المبلغ عنها من معيار متوازن مجموعة حقيقية تحتوي على عدد قليل جدًا من الصور الاصطناعية. التمييز بين نتيجة الكاشف والاحتمال المؤكد. تؤثر المعايرة واختيار العتبة وانتشار المحتوى الاصطناعي على التفسير. يمكن أن تكون النتيجة العالية سببًا للتحقيق دون تبرير اتهام علني. استخدم الأدلة التكميلية: الملفات الأصلية، وتاريخ المصدر، والبيانات التعريفية، وبيانات اعتماد المحتوى، والتأييد المستقل. يمكن أن تكون البيانات التعريفية مفقودة أو متغيرة، وتصف بيانات الاعتماد المصدر المسجل بدلاً من ضمان صحة كل ادعاء مرئي. تصميم سير عمل المراجعة الذي يأخذ في الاعتبار عدم اليقين. الحفاظ على الأدلة، وتوثيق الأدوات والإصدارات المستخدمة، وشرح الأساس لأي استنتاج. تجنب معاقبة الأشخاص تلقائيًا بناءً على نتيجة كاشف واحدة لم يتم التحقق من صحتها.
04عملت المثال
عد الإنذارات الكاذبة
أنشئ مجموعة مكونة من 1000 صورة حقيقية و10 صور صناعية. لنفترض أن الكاشف يضع علامة على 1% من الصور الأصلية ويلتقط 8 صور اصطناعية.
وينتج 10 إنذارات كاذبة و8 اكتشافات حقيقية، لذا فإن 8 فقط من أصل 18 صورة تم وضع علامة عليها هي صور اصطناعية في هذا المثال.
قم بالإبلاغ عن الأعداد الفعلية ومراجعة الأدلة قبل تقديم مطالبة بشأن أي صورة.
ما يظهر
توضح الأرقام المُخترعة تأثيرات المعدل الأساسي، وليس أداء كاشف حقيقي.
التنفيذ في العالم الحقيقي
قم بتقييم الكاشف على نفس مصادر الضغط والصورة المتوقعة قيد الاستخدام.
قم بدمج مخرجات الكاشف مع مراجعة المصدر بدلاً من التعامل معها كحكم.
وضعها موضع التنفيذ
لماذا يهم
- السرعة والحجم. يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
- خيارات البناء. يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
- الفريق وسير العمل. يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
احترس من
- يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
- يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
- قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
الخطوات التالية
- تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
- اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
- أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
- تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
المصادر ومزيد من القراءة
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Synthetic Image Detection quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
هل فقدان بيانات اعتماد المحتوى يعني أن الصورة مزيفة؟
لا، البيانات الوصفية للمصدر ليست موجودة عالميًا. وغيابها وحده لا يثبت أن الصورة اصطناعية أو خادعة.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع