نظرة عامة
Make-A-Video هو نظام Meta لعام 2022 الذي يحول المطالبة النصية إلى مقطع فيديو قصير دون التدريب على أزواج نصية وفيديو مصنفة. إنه مهم لأنه أظهر أن المعرفة المرئية داخل نماذج تحويل النص إلى صورة يمكن "تعليمها" للتحرك باستخدام الفيديو غير المسمى فقط.
ينتمي برنامج Make-A-Video Text-to-Video إلى عمليات سير عمل الرؤية الحاسوبية التي تفسر أو تولد الوسائط المرئية للتحليل والعمليات والإبداع.
الغوص العميق
يُنشئ تطبيق Make-A-Video، الذي أعلنت عنه Meta AI في سبتمبر 2022، بضع ثوانٍ من الفيديو من جملة مثل "كلب يرتدي عباءة بطل خارق يطير في السماء". وتتمثل حيلتها الرئيسية في فصل المظهر عن الحركة: يتعلم نموذج تحويل النص إلى صورة (المبني على مساحة وانتشار النص والصورة المشتركة على نمط CLIP) كيف تبدو الأشياء من مليارات الصور الموضحة، بينما تتعلم الطبقات الزمانية المكانية المنفصلة كيف تتحرك الأشياء من الفيديو غير المسمى وحده. يؤدي هذا إلى تجنب ندرة أزواج الفيديو النصية عالية الجودة. ينتج النموذج الأساسي مقاطع ذات دقة منخفضة ومعدل إطارات منخفض، ثم تقوم الشبكات المخصصة باستيفاء الإطارات الإضافية والدقة المكانية العالية. وكانت النتيجة متماسكة بشكل لافت للنظر بالنسبة لعصرها، على الرغم من أن المقاطع كانت قصيرة، وضبابية، وعرضة للوميض والتشويه.
البصيرة الفنية
يقوم Make-A-Video بتوسيع تلافيف توليد الصور ثنائية الأبعاد والاهتمام إلى الأبعاد الثلاثية عن طريق إضافة طبقات مؤقتة زائفة. يتم تجميد الأوزان المكانية المدربة مسبقًا أو ضبطها بدقة بينما تتعلم الطبقات الزمنية الجديدة الحركة من الفيديو الخام، لذلك ليست هناك حاجة إلى تسميات نصية للفيديو. تقوم شبكة استيفاء الإطار بعد ذلك بتكثيف الخط الزمني ووحدات الانتشار فائقة الدقة لرفع التفاصيل المكانية، وتحول مسودة خشنة منخفضة الدقة مكونة من 16 إطارًا إلى مقطع أكثر سلاسة ووضوحًا في خط أنابيب متتالي.
إتقان تحويل النص إلى فيديو إلى فيديو
Make-A-Video هو نظام Meta لعام 2022 الذي يحول المطالبة النصية إلى مقطع فيديو قصير دون التدريب على أزواج نصية وفيديو مصنفة. إنه مهم لأنه أظهر أن المعرفة المرئية داخل نماذج تحويل النص إلى صورة يمكن "تعليمها" للتحرك باستخدام الفيديو غير المسمى فقط. ينتمي برنامج Make-A-Video Text-to-Video إلى عمليات سير عمل الرؤية الحاسوبية التي تفسر أو تولد الوسائط المرئية للتحليل والعمليات والإبداع. لبناء فهم عميق، يجب التعامل مع تحويل النص إلى فيديو إلى فيديو كنموذج تشغيل، وليس كميزة واحدة: تحديد النتائج المرغوبة، وتوضيح الافتراضات، وفصل ما يمكن للنظام القيام به بشكل موثوق عما لا يزال يتطلب حكم الخبراء.
من الناحية العملية، تعمل الفرق القوية التي تستخدم ميزة Make-A-Video Text-to-Video على موازنة الدقة مع الحقائق التشغيلية مثل جودة البيانات، وتباين الإضاءة، واتساق الملصقات. وهي تقوم بتوثيق معايير نجاح واضحة، واختبارها مقابل بيانات واقعية وسير العمل، والتكرار بناءً على أنماط الفشل الملحوظة بدلاً من الانتصارات المعيارية لمرة واحدة. وهذا هو المكان الذي يتحول فيه الفهم النظري إلى قدرة دائمة عبر المنتج والسياسة والعمليات.
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع. وفي الوقت نفسه، يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح. ويتمثل النهج الأكثر مرونة في الجمع بين سرعة التجريب وانضباط الحوكمة: تشغيل البرامج التجريبية، والتقاط الأدلة، ونشر سجلات القرارات، وتحديث الضمانات بشكل مستمر مع تطور سلوك النموذج، وتوقعات المستخدم، والمتطلبات التنظيمية.
التأثير الاستراتيجي
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق. وفي عمليات النشر عالية الجودة، تتم ترجمة ذلك إلى قواعد تشغيل قابلة للقياس، وحدود ملكية، وطقوس مراجعة متكررة حتى تتمكن الفرق من توسيع نطاق الثقة بدلاً من توسيع نطاق الغموض.
التنفيذ في العالم الحقيقي
تحريك جملة وصفية واحدة في مقطع متكرر قصير لمنشور على وسائل التواصل الاجتماعي
إضفاء الحيوية على مفهوم ثابت مثل "دبدوب يرسم صورة شخصية" كرسم توضيحي متحرك
الاستيفاء بين صورتين ثابتتين يقدمهما المستخدم لإنشاء فيديو انتقالي سلس
إنشاء مسودات سريعة الحركة لمشاهد متخيلة للقصص المصورة قبل أي تصوير
أنماط التنفيذ
إنشاء فيديو نص إلى فيديو في الممارسة العملية
تحريك جملة وصفية واحدة في مقطع متكرر قصير لمنشور على وسائل التواصل الاجتماعي.
تحريك جملة وصفية واحدة في مقطع متكرر قصير لمنشور على وسائل التواصل الاجتماعي عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
إنشاء فيديو نص إلى فيديو في الممارسة العملية
إضفاء الحيوية على مفهوم ثابت مثل "دبدوب يرسم صورة شخصية" كرسم توضيحي متحرك.
إضفاء الحيوية على مفهوم ثابت مثل "دبدوب يرسم صورة شخصية" كرسم توضيحي متحرك عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحتفظ بمسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
إنشاء فيديو نص إلى فيديو في الممارسة العملية
الاستيفاء بين صورتين ثابتتين يقدمهما المستخدم لإنشاء فيديو انتقالي سلس.
الاستيفاء بين صورتين ثابتتين يقدمهما المستخدم لإنشاء فيديو انتقالي سلس تحصل الفرق عادةً على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحافظ على مسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
إنشاء فيديو نص إلى فيديو في الممارسة العملية
إنشاء مسودات سريعة الحركة لمشاهد متخيلة للقصص المصورة قبل أي تصوير.
إنشاء مسودات سريعة الحركة لمشاهد متخيلة للوحة القصة قبل أي تصوير، عادةً ما تحصل الفرق على نتائج أفضل عندما تحدد حدود الجودة مقدمًا، وتحافظ على مسار تصعيد بشري لحالات الحافة، وتتتبع مكاسب الإنتاجية وتكاليف الأخطاء بمرور الوقت.
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات. تعامل مع كل خطوة كبوابة دليل: إذا لم يتم استيفاء المعايير، قم بإيقاف التشغيل مؤقتًا، وسد الفجوة، وبعد ذلك فقط قم بتوسيع الاستخدام.