نظرة عامة
يُعد Custom Diffusion طريقة ضبط دقيقة خفيفة الوزن تُعلم نموذج تحويل النص إلى صورة مفاهيم شخصية جديدة، مثل كلبك أو كرسي معين، من خلال عدد قليل من الصور فقط. وتتمثل الميزة البارزة في تكوين العديد من المفاهيم التي تم تعلمها حديثًا معًا في مشهد واحد تم إنشاؤه.
ينتمي Custom Diffusion Multi-Concept Tuning إلى عمليات سير عمل رؤية الكمبيوتر التي تفسر أو تولد الوسائط المرئية للتحليل والعمليات والإبداع.
الغوص العميق
تم إصدار Custom Diffusion بواسطة باحثي Adobe وCMU في عام 2022، وهو يخصص نماذج مثل Stable Diffusion دون إعادة تدريب الشبكة بأكملها. وبدلاً من تحديث كل وزن، اكتشفت أن تحديث شريحة صغيرة فقط، ومصفوفات إسقاط المفتاح والقيمة في طبقات الانتباه المتقاطع، يكفي لاستيعاب مفهوم جديد من 4 إلى 20 صورة تقريبًا. يؤدي هذا إلى الحفاظ على الضبط السريع (بالدقائق) والتخزين الصغير (بالميجابايت بدلاً من الجيجابايت). والأهم من ذلك، أنه يمكنه تعلم مفاهيم متعددة في وقت واحد من خلال التدريب المشترك أو عن طريق دمج المفاهيم المدربة بشكل منفصل باستخدام التحسين المقيد. يتيح لك ذلك المطالبة، على سبيل المثال، بجلوس قطتك المحددة على كرسي المصمم الخاص بك، وهو أمر يصعب دمجه في الأساليب ذات المفهوم الواحد.
البصيرة الفنية
الانتباه المتبادل هو المكان الذي تؤثر فيه مطالبة النص على الصورة؛ تشكل الرموز النصية استعلاماتًا تهتم بالميزات المرئية لنموذج الانتشار عبر مصفوفات المفتاح والقيمة. يقوم Custom Diffusion بتجميد معظم U-Net وضبط إسقاطات K وV فقط، وهي الأجزاء الأكثر مسؤولية عن ربط الكلمات بالمظهر. ويستخدم أيضًا مجموعة تنظيم من الصور الحقيقية التي تشارك فئة المفهوم لمنع النموذج من الإفراط في التناسب ونسيان المعنى الأوسع للكلمة.
إتقان الضبط المخصص متعدد المفاهيم
يُعد Custom Diffusion طريقة ضبط دقيقة خفيفة الوزن تُعلم نموذج تحويل النص إلى صورة مفاهيم شخصية جديدة، مثل كلبك أو كرسي معين، من خلال عدد قليل من الصور فقط. وتتمثل الميزة البارزة في تكوين العديد من المفاهيم التي تم تعلمها حديثًا معًا في مشهد واحد تم إنشاؤه. ينتمي Custom Diffusion Multi-Concept Tuning إلى عمليات سير عمل رؤية الكمبيوتر التي تفسر أو تولد الوسائط المرئية للتحليل والعمليات والإبداع. لبناء فهم عميق، تعامل مع Custom Diffusion Multi-Concept Tuning كنموذج تشغيل، وليس كميزة واحدة: تحديد النتائج المرغوبة، وتوضيح الافتراضات، وفصل ما يمكن للنظام القيام به بشكل موثوق عما لا يزال يتطلب حكم الخبراء.
من الناحية العملية، تعمل الفرق القوية التي تستخدم Custom Diffusion Multi-Concept Tuning على موازنة الدقة مع الحقائق التشغيلية مثل جودة البيانات، وتباين الإضاءة، واتساق الملصقات. وهي تقوم بتوثيق معايير نجاح واضحة، واختبارها مقابل بيانات واقعية وسير العمل، والتكرار بناءً على أنماط الفشل الملحوظة بدلاً من الانتصارات المعيارية لمرة واحدة. وهذا هو المكان الذي يتحول فيه الفهم النظري إلى قدرة دائمة عبر المنتج والسياسة والعمليات.
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع. وفي الوقت نفسه، يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح. ويتمثل النهج الأكثر مرونة في الجمع بين سرعة التجريب وانضباط الحوكمة: تشغيل البرامج التجريبية، والتقاط الأدلة، ونشر سجلات القرارات، وتحديث الضمانات بشكل مستمر مع تطور سلوك النموذج، وتوقعات المستخدم، والمتطلبات التنظيمية.
التأثير الاستراتيجي
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
التنفيذ في العالم الحقيقي
تعليم نموذج حيوانك الأليف المحدد من خلال مجموعة من الصور، ثم إنشاءه في أوضاع وأزياء وإعدادات جديدة
تعلم منتج العلامة التجارية (حذاء رياضي أو زجاجة) وتميمة العلامة التجارية، ثم تأليفهما في صورة تسويقية واحدة
التقاط قطعة فنية شخصية بالإضافة إلى ما يشبه أحد أفراد العائلة وجمعها معًا في مشاهد مخترعة
الجمع بين قطعة أثاث مخصصة ونمط غرفة مخصص لمحاكاة مفاهيم التصميم الداخلي
أنماط التنفيذ
ضبط مخصص للنشر متعدد المفاهيم في الممارسة العملية
تعليم نموذج حيوانك الأليف المحدد من خلال مجموعة من الصور، ثم إنشاءه في أوضاع وأزياء وإعدادات جديدة.
تعليم النموذج الخاص بحيوانك الأليف المحدد من خلال مجموعة من الصور، ثم إنشاءه في أوضاع وأزياء وإعدادات جديدة، عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحافظ على مسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
ضبط مخصص للنشر متعدد المفاهيم في الممارسة العملية
تعلم منتج العلامة التجارية (حذاء رياضي أو زجاجة) وتميمة العلامة التجارية، ثم تأليفهما في صورة تسويقية واحدة.
تعلم منتج العلامة التجارية (حذاء رياضي أو زجاجة) وتميمة العلامة التجارية، ثم تكوين كليهما في صورة تسويقية واحدة، وعادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحافظ على مسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
ضبط مخصص للنشر متعدد المفاهيم في الممارسة العملية
التقاط قطعة فنية شخصية بالإضافة إلى ما يشبه أحد أفراد العائلة وجمعها معًا في مشاهد مخترعة.
التقاط كائن فني شخصي بالإضافة إلى ما يشبه أحد أفراد العائلة ووضعهم معًا في مشاهد مخترعة عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
ضبط مخصص للنشر متعدد المفاهيم في الممارسة العملية
الجمع بين قطعة أثاث مخصصة ونمط غرفة مخصص لمحاكاة مفاهيم التصميم الداخلي.
الجمع بين قطعة أثاث مخصصة ونمط غرفة مخصص لمحاكاة مفاهيم التصميم الداخلي، عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحافظ على مسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.