انتشار عرض الرواية من صفر إلى 3
يقوم صفر 1 إلى 3 بتحويل صورة واحدة لكائن ما إلى صور لنفس الكائن الذي يمكن رؤيته من أي زاوية جديدة، باستخدام نموذج نشر مشروط بتدوير الكاميرا الذي تطلبه.
نظرة عامة
It matters because it lets you reconstruct 3D-consistent views without ever scanning the object from multiple sides.
الغوص العميق
تعمل تقنية Zero-1-to-3 (من كولومبيا، 2023) على ضبط Stable Diffusion بشكل دقيق حتى تتمكن من إجراء تركيب عرض جديد بدون لقطة من صورة إدخال واحدة. تقوم بإطعامه صورة واحدة بالإضافة إلى تحويل نسبي للكاميرا (دوران وترجمة صغيرة)، ويقوم النموذج بإنشاء الشكل الذي سيبدو عليه الكائن من وجهة النظر الجديدة هذه. الفكرة الأساسية هي أن نماذج الانتشار الكبيرة ثنائية الأبعاد، التي تم تدريبها على مجموعات ضخمة من صور الويب، قد استوعبت ضمنيًا مقدمات هندسية وفيزيائية حول كيفية ظهور الأشياء ثلاثية الأبعاد. من خلال الضبط الدقيق لمجموعة بيانات اصطناعية من الكائنات المقدمة من العديد من زوايا الكاميرا التي يتم التحكم فيها (باستخدام Objaverse)، يتعلم النموذج تعيين هؤلاء الأقدمين على تحكم واضح في الكاميرا. يمكن بعد ذلك أن تغذي المشاهدات التي تم إنشاؤها عملية إعادة الإعمار ثلاثية الأبعاد.
البصيرة الفنية
يشروط النموذج على الصورة المصدر بطريقتين: يتم دمج تضمين CLIP مع وضع الكاميرا النسبي (السمت والارتفاع ونصف القطر) لتوجيه الانتباه المتبادل، بينما تكون الصورة الأولية متصلة بالقناة مع الضجيج الكامن بحيث يتم الحفاظ على التفاصيل الدقيقة والهوية. يستخدم التدريب ثلاثة توائم من الصورة إلى الوضعية التي يتم تقديمها من كائنات CAD، بحيث تتعلم الشبكة التعيين الذي يمكن التحكم فيه بين تغيير وجهة النظر وتغيير البكسل الناتج.
التأثير الاستراتيجي
السرعة والحجم
يمكن للذكاء الاصطناعي المرئي أتمتة مهام الفحص والكشف ووضع العلامات على نطاق واسع.
خيارات البناء
يمكن للفرق الإبداعية إنشاء نماذج أولية للمفاهيم بشكل أسرع مع عدد أقل من المراجعات اليدوية.
الفريق وسير العمل
يمكن أن تستخدم العمليات إشارات الصور والفيديو التي كان من الصعب معالجتها في السابق.
مستقبل نشر عرض الرواية من صفر إلى 3
صفر 1 إلى 3 بذر موجة من خطوط أنابيب الصورة إلى ثلاثية الأبعاد. تعمل الأجهزة اللاحقة مثل Zero123-XL وSyncDreamer وOne-2-3-45 على الدفع نحو اتساق العرض المتعدد وإخراج شبكي ثلاثي الأبعاد أسرع وأكثر موثوقية، بينما يؤدي التكامل مع Gaussian Splatting ونماذج إعادة الإعمار الكبيرة إلى تقليص وقت التوليد من دقائق إلى ثوانٍ. توقع اتساقًا أكثر صرامة في العرض، ودقة أعلى، وتعميمًا في العالم الحقيقي (وليس فقط الكائنات الاصطناعية) حيث تنضج نماذج النشر التي يمكن التحكم فيها من خلال وجهة نظر إلى أدوات قياسية لإنشاء المحتوى.
التنفيذ في العالم الحقيقي
إنشاء عروض قرص دوار لصورة منتج واحد حتى تتمكن قائمة التجارة الإلكترونية من إظهار العنصر من جميع الجوانب
تشغيل شبكة ثلاثية الأبعاد منسقة لكائن ما من لقطة هاتف عادية لمعاينات الواقع المعزز
إنشاء فن مرجعي متسق متعدد الزوايا لشخصية أو دعامة لفناني مفهوم الألعاب والأفلام
تغذية وجهات النظر الجديدة المركبة في إعادة بناء NeRF أو Gaussian Splatting لملء الأشكال الهندسية غير المرئية
المخاطر والدرابزين
يمكن أن تصبح حقوق الصور والموافقة مخاطر قانونية إذا كان المصدر غير واضح.
يمكن أن يختلف أداء النموذج عبر الإضاءة والتركيبة السكانية والبيئات.
قد تمر الإيجابيات الكاذبة دون أن يلاحظها أحد ما لم تتم مراقبة عتبات الثقة.
خارطة طريق التنفيذ
تحديد معايير القبول لتكاليف الدقة والاستدعاء والخطأ.
اختبار مع البيانات التي تتوافق مع ظروف الإنتاج الحقيقية.
أضف مراجعة بشرية للتنبؤات منخفضة الثقة أو عالية التأثير.
تتبع انحراف النموذج وإعادة التحقق من صحته بعد تغيير الكاميرا أو مجموعة البيانات.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Zero-1-to-3 Novel View Diffusion quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
رواية عرض التوليف
الأسئلة المتداولة
What is Zero-1-to-3 Novel View Diffusion?
يقوم صفر 1 إلى 3 بتحويل صورة واحدة لكائن ما إلى صور لنفس الكائن الذي يمكن رؤيته من أي زاوية جديدة، باستخدام نموذج نشر مشروط بتدوير الكاميرا الذي تطلبه. إنه أمر مهم لأنه يتيح لك إعادة إنشاء عروض متسقة ثلاثية الأبعاد دون الحاجة إلى مسح الكائن من جوانب متعددة.
ما هو المدخل الأساسي الذي يحتاجه صفر 1 إلى 3 بالإضافة إلى صورة واحدة لإنشاء عرض جديد؟
إن نسبة صفر إلى 3 مشروطة بصورة واحدة بالإضافة إلى وضع الكاميرا النسبي، لذا يمكنك تحديد التدوير والترجمة إلى وجهة النظر المطلوبة.
تم تصميم Zero-1-to-3 من خلال الضبط الدقيق لأي نوع من النماذج؟
فهو يقوم بضبط نموذج نشر ثنائي الأبعاد كبير تم تدريبه مسبقًا حتى يتمكن من استغلال البادئات الهندسية التي تعلمتها تلك النماذج ضمنيًا من صور الويب.
لماذا يمكن لنموذج الانتشار ثنائي الأبعاد أن يقوم بتوليف عرض جديد بدون لقطة على الإطلاق؟
يضفي التدريب ثنائي الأبعاد على نطاق واسع معرفة ضمنية بكيفية ظهور الأشياء في صورة ثلاثية الأبعاد، مما يجعل ضبطها الدقيق قابلاً للتحكم من خلال وضعية الكاميرا.
ما هي مجموعة البيانات الخاصة بالكائنات ثلاثية الأبعاد التي كانت أساسية للتدريب من صفر إلى 3؟
تم تدريبه على ثلاثة توائم صورة-وضعية-صورة تم تقديمها من مجموعات كبيرة من الكائنات ثلاثية الأبعاد الاصطناعية مثل Objaverse.
كيف يتم الحفاظ على التفاصيل الدقيقة للصورة المصدر في الجيل؟
يتم ربط الصورة الأولية بالقناة مع الضجيج الكامن (جنبًا إلى جنب مع تضمين CLIP للدلالات) بحيث تستمر الهوية والتفاصيل.