دليل الذكاء الاصطناعي المرئي

تحرير الانتباه المتقاطع الفوري إلى الفوري

تقوم ميزة "موجه إلى موجه" بتحرير الصورة التي تم إنشاؤها عن طريق تعديل موجه النص الخاص بها أثناء إعادة استخدام خرائط الانتباه الداخلية للنموذج، لذا فإن تغيير كلمة واحدة يؤدي إلى تبديل هذا العنصر مع الحفاظ على بقية المشهد سليمًا.

قراءة لمدة دقيقتينآخر تحديث

نظرة عامة

It is editing through words, not pixels.

الغوص العميق

تعد المطالبة بالمطالبة (Hertz et al., 2022) تقنية خالية من التدريب للتحرير المستند إلى النص في نماذج النشر. الفكرة الأساسية هي أن خرائط الانتباه المتبادل، التي تخبر النموذج بمناطق الصورة التي يجب أن تؤثر عليها كل كلمة، تقوم بتشفير التخطيط المكاني للمشهد. عندما تقوم بإعادة إنشاء صورة باستخدام موجه معدل قليلاً، تقوم الطريقة بإدخال خرائط انتباه الموجه الأصلي في التشغيل الجديد. يؤدي استبدال كلمة، مثل "دراجة" بكلمة "دراجة نارية"، إلى تبديل هذا الكائن مع الحفاظ على التكوين والخلفية. تؤدي إضافة كلمة إلى لفت الانتباه فقط إلى الرموز المميزة التي لم تتغير، لذلك تظهر سمة جديدة دون تعديل كل شيء. يمكنك أيضًا إعادة وزن انتباه الرمز المميز لتقوية تأثيره أو إضعافه. نظرًا لأنه لا يتطلب أي ضبط أو أقنعة، فقد أصبح لبنة أساسية للعديد من طرق التحرير اللاحقة، بما في ذلك إنشاء بيانات InstructPix2Pix.

البصيرة الفنية

أثناء تقليل الضوضاء، يحسب الانتباه المتبادل، لكل رمز، خريطة مكانية لمكان وجوده في الصورة. تقوم ميزة "المطالبة بالمطالبة" بنسخ هذه الخرائط من الجيل الأصلي إلى الخريطة المعدلة للرموز المميزة المشتركة. بالنسبة لمبادلة الكلمات، فإنه يقوم بتخطيط الانتباه بين الرموز المميزة المقابلة؛ بالنسبة للكلمات المضافة، فإنه يحتفظ بالخرائط القديمة ويسمح فقط للرموز المميزة الجديدة بتشكيل اهتمام جديد؛ تعمل إعادة الوزن ببساطة على قياس قيم انتباه الرمز المميز، مما يؤدي إلى تكثيف تأثيره البصري أو كتمه.

التأثير الاستراتيجي

السرعة والحجم

يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.

خيارات البناء

يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.

الفريق وسير العمل

يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.

مستقبل التحرير عبر الانتباه الفوري

يدعم الآن التلاعب بالانتباه المتبادل مجموعة كاملة من أدوات الإنشاء التي يمكن التحكم فيها، وتمتد الأفكار إلى التحكم في الانتباه في البنى الأحدث ونشر الفيديو لإجراء تعديلات متسقة مؤقتًا. توقع تكاملًا أكثر إحكامًا مع تحرير الصور الحقيقية عبر الانقلاب، ومعالجة أكثر قوة للتغييرات الهيكلية الكبيرة، والدمج مع نماذج التعليمات بحيث تعمل حيل الانتباه بشكل غير مرئي ضمن واجهة بسيطة باللغة الطبيعية.

التنفيذ في العالم الحقيقي

يقوم المصمم بتغيير "سيارة حمراء في الشارع" إلى "سيارة زرقاء في الشارع" ويحتفظ بنفس تخطيط المشهد بالضبط.

يعيد أحد الرسامين وزن كلمة "ثلجي" ليجعل المشهد أكثر شتوية بشكل تدريجي عبر الاختلافات.

يستبدل أحد الراويين كلمة "أسد" بكلمة "نمر" في حثه على الاحتفاظ بوضعية وخلفية متطابقتين لورقة الأحرف.

يستخدمها أحد الباحثين لإنشاء صور قبل/بعد مقترنة كبيانات تدريب لمحرر متابعة التعليمات.

المخاطر والدرابزين

يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.

يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.

قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.

خارطة طريق التنفيذ

1

تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.

2

اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.

3

أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.

4

تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.

استمر في الاستكشاف

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Prompt-to-Prompt Cross-Attention Editing quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ابدأ الاختبار

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

الدليل التالي

الاهتمام المتقاطع

الأسئلة المتداولة

What is Prompt-to-Prompt Cross-Attention Editing?

تقوم ميزة "موجه إلى موجه" بتحرير الصورة التي تم إنشاؤها عن طريق تعديل موجه النص الخاص بها أثناء إعادة استخدام خرائط الانتباه الداخلية للنموذج، لذا فإن تغيير كلمة واحدة يؤدي إلى تبديل هذا العنصر مع الحفاظ على بقية المشهد سليمًا. يتم التحرير من خلال الكلمات، وليس البكسل.

ما هي المعلومات الداخلية التي تعيد "المطالبة بالمطالبة" استخدامها للحفاظ على المشهد؟

تعمل خرائط الانتباه المتبادل على تشفير المكان الذي تؤثر فيه كل كلمة على الصورة، لذا فإن إعادة استخدامها تحافظ على اتساق التخطيط أثناء عمليات التحرير.

هل تتطلب "المطالبة بالمطالبة" ضبط النموذج بشكل دقيق؟

إنه يتلاعب بالانتباه في وقت الاستدلال ولا يحتاج إلى تدريب إضافي.

ما الذي يحققه إعادة وزن انتباه الرمز المميز؟

يؤدي قياس قيم انتباه الرمز المميز إلى تكثيف أو كتم مدى قوة ظهور هذا المفهوم.

لماذا تعتبر المطالبة بالمطالبة تقنية أساسية؟

أصبح التلاعب بالانتباه بدون تدريب بمثابة لبنة أساسية أعيد استخدامها عبر أبحاث التحرير التي تلت ذلك.