ضبط مخصص متعدد المفاهيم
يُعد Custom Diffusion طريقة ضبط دقيقة خفيفة الوزن تُعلم نموذج تحويل النص إلى صورة مفاهيم شخصية جديدة، مثل كلبك أو كرسي معين، من خلال عدد قليل من الصور فقط.
نظرة عامة
Its standout feature is composing several newly learned concepts together in one generated scene.
الغوص العميق
تم إصدار Custom Diffusion بواسطة باحثي Adobe وCMU في عام 2022، وهو يخصص نماذج مثل Stable Diffusion دون إعادة تدريب الشبكة بأكملها. وبدلاً من تحديث كل وزن، اكتشفت أن تحديث شريحة صغيرة فقط، ومصفوفات إسقاط المفتاح والقيمة في طبقات الانتباه المتقاطع، يكفي لاستيعاب مفهوم جديد من 4 إلى 20 صورة تقريبًا. يؤدي هذا إلى الحفاظ على الضبط السريع (بالدقائق) والتخزين الصغير (بالميجابايت بدلاً من الجيجابايت). والأهم من ذلك، أنه يمكنه تعلم مفاهيم متعددة في وقت واحد من خلال التدريب المشترك أو عن طريق دمج المفاهيم المدربة بشكل منفصل باستخدام التحسين المقيد. يتيح لك ذلك المطالبة، على سبيل المثال، بجلوس قطتك المحددة على كرسي المصمم الخاص بك، وهو أمر يصعب دمجه في الأساليب ذات المفهوم الواحد.
البصيرة الفنية
الانتباه المتبادل هو المكان الذي تؤثر فيه مطالبة النص على الصورة؛ تشكل الرموز النصية استعلاماتًا تهتم بالميزات المرئية لنموذج الانتشار عبر مصفوفات المفتاح والقيمة. يقوم Custom Diffusion بتجميد معظم U-Net وضبط إسقاطات K وV فقط، وهي الأجزاء الأكثر مسؤولية عن ربط الكلمات بالمظهر. ويستخدم أيضًا مجموعة تنظيم من الصور الحقيقية التي تشارك فئة المفهوم لمنع النموذج من الإفراط في التناسب ونسيان المعنى الأوسع للكلمة.
التأثير الاستراتيجي
السرعة والحجم
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
خيارات البناء
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
الفريق وسير العمل
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
مستقبل الضبط المخصص متعدد المفاهيم
يتقارب التخصيص متعدد المفاهيم مع الأنظمة البيئية للمحولات مثل LoRA، حيث يمكن خلط العديد من وحدات المفاهيم الصغيرة في وقت الاستدلال. تهدف الأنظمة المستقبلية إلى إنشاء العشرات من المفاهيم المخصصة بشكل نظيف دون تجاوز السمات (تسرب لون القطة إلى الكرسي)، وإجراء الضبط في ثوانٍ أو حتى باستخدام برنامج التشفير فقط، دون أي تحسين. توقع أن يدعم هذا إنشاء الأصول المتسقة مع العلامة التجارية، والصور الرمزية الشخصية، والتخصيص على الجهاز.
التنفيذ في العالم الحقيقي
تعليم نموذج حيوانك الأليف المحدد من خلال مجموعة من الصور، ثم إنشاءه في أوضاع وأزياء وإعدادات جديدة
تعلم منتج العلامة التجارية (حذاء رياضي أو زجاجة) وتميمة العلامة التجارية، ثم تأليفهما في صورة تسويقية واحدة
التقاط قطعة فنية شخصية بالإضافة إلى ما يشبه أحد أفراد العائلة وجمعها معًا في مشاهد مخترعة
الجمع بين قطعة أثاث مخصصة ونمط غرفة مخصص لمحاكاة مفاهيم التصميم الداخلي
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Custom Diffusion Multi-Concept Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
سياسة الانتشار للتحكم في الروبوت
الأسئلة المتداولة
What is Custom Diffusion Multi-Concept Tuning?
يُعد Custom Diffusion طريقة ضبط دقيقة خفيفة الوزن تُعلم نموذج تحويل النص إلى صورة مفاهيم شخصية جديدة، مثل كلبك أو كرسي معين، من خلال عدد قليل من الصور فقط. وتتمثل الميزة البارزة في تكوين العديد من المفاهيم التي تم تعلمها حديثًا معًا في مشهد واحد تم إنشاؤه.
أي جزء من نموذج الانتشار يقوم بضبط النشر المخصص بشكل أساسي؟
فهو يقوم فقط بتحديث مصفوفات K وV، التي تربط الكلمات بالمظهر، مما يحافظ على الضبط السريع والملف المحفوظ صغيرًا.
ما هو التوزيع المخصص الأكثر شهرة مقارنة بطرق المفهوم الفردي؟
قدرته المميزة هي توليد مفاهيم متعددة، والجمع بين العديد من الموضوعات الشخصية معًا.
ما هو عدد الصور التي يحتاجها Custom Diffusion تقريبًا لتعلم المفهوم؟
فهو يتعلم من مجموعة صغيرة من الصور، مما يجعل التخصيص عمليًا للمستخدمين العاديين.
لماذا يستخدم Custom Diffusion مجموعة من صور التنظيم من الفئة الأوسع للمفهوم؟
تحافظ صور التنظيم على المعنى العام لكلمة الفئة دون تغيير حتى لا ينهار النموذج إلى المفهوم الجديد فقط.
كيف يمكن استخدام مفهومين للنشر المخصص تم تدريبهما بشكل منفصل معًا؟
يمكن دمج المفاهيم التي يتم تعلمها بشكل مستقل من خلال التحسين المقيد ذو الشكل المغلق، مما يتيح المطالبات المشتركة.