التاليالدليل التالي
AudioGen تركيب النص إلى الصوت
الذكاء الاصطناعي الصوتي
دليل الصوت AI
DDSP التوليف الصوتي المتنوع
يقوم DDSP (معالجة الإشارات الرقمية التفاضلية) بدمج العناصر الأساسية للمركب الكلاسيكي مع الشبكات العصبية، بحيث يمكن للتعلم العميق التحكم في المذبذبات والمرشحات مباشرة.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
It produces strikingly natural, controllable instrument sounds with tiny models and little data.
الغوص العميق
DDSP، الذي قدمه فريق Magenta التابع لـ Google في عام 2020، يعيد التفكير في توليد الصوت العصبي. بدلاً من شبكة تتنبأ بعينات الصوت الخام واحدة تلو الأخرى (مثل WaveNet) أو بكسلات مخطط الطيف، فإن DDSP يجعل مكونات DSP التقليدية - مذبذب متناغم مضاف، ومولد ضوضاء مفلتر، وتردد الصدى - قابلة للتمييز. وهذا يعني أن التدرجات يمكن أن تتدفق من خلالها أثناء التدريب، لذلك تتعلم شبكة عصبية صغيرة إخراج إشارات تحكم قابلة للتفسير: درجة الصوت الأساسية، وارتفاع الصوت الإجمالي، ومدى عشرات التوافقيات مع مرور الوقت. يقوم المُركِّب بعد ذلك بعرض الصوت الفعلي من عناصر التحكم هذه. نظرًا لأن فيزياء الصوت مدمجة في البنية بدلاً من تعلمها من الصفر، فإن DDSP يحقق جودة عالية مع عدد أقل بكثير من المعلمات وأمثلة التدريب، ويتيح للمستخدمين التعامل بشكل مستقل مع طبقة الصوت والجهارة والجرس - حتى إجراء نقل الجرس، مثل تشغيل صوت غنائي على آلة الكمان.
التنفيذ في العالم الحقيقي
أدوات نقل الصوت التي تأخذ اللحن الطنان أو المغنى وتعيد عرضه على هيئة كمان أو فلوت أو بوق في الوقت الفعلي.
مكونات إضافية للمركب العصبي خفيفة الوزن يتحكم فيها الموسيقيون من خلال مقابض درجة الصوت وارتفاع الصوت والسطوع.
تصحيح طبقة الصوت وإعادة التركيب التعبيري للأدوات المسجلة مع الحفاظ على التفاصيل التوافقية الطبيعية.
العروض التوضيحية للموسيقى التفاعلية القائمة على المتصفح والتي تولد أصواتًا واقعية للآلات بدون نماذج GPU الثقيلة.
مستقبل التوليف الصوتي المتنوع DDSP
يعمل DDSP على دفع أدوات عصبية وتأثيرات صوتية منخفضة الكمون في الوقت الفعلي والتي تعمل على أجهزة متواضعة، بما في ذلك المتصفح والأجهزة المدمجة. إن عناصر التحكم القابلة للتفسير تجعلها مثالية لأدوات الأداء التعبيرية وأجهزة المزج الهجين حيث يقوم الموسيقيون بطلب الجرس مباشرة. يقوم الباحثون بتوسيع فكرة DSP القابلة للتمييز لتشمل النمذجة المادية، وصوتيات الغرفة، وسلاسل إنتاج الصوت الكاملة، ومزج إمكانية التحكم في معالجة الإشارات الكلاسيكية مع واقعية التعلم العميق عبر إنشاء الموسيقى وتصميم الصوت.
وضعها موضع التنفيذ
لماذا يهم
- الوصول والوصول. يعمل على تحسين إمكانية الوصول من خلال واجهات النسخ والسرد والصوت.
- التكلفة والميزانية. يمكن للفرق الإعلامية شحن الصوت المصقول بشكل أسرع بميزانيات أصغر.
- السرعة والحجم. يمكن للأنظمة التي تواجه العملاء معالجة التفاعلات المنطوقة على نطاق أوسع.
احترس من
- تزداد مخاطر إساءة استخدام الصوت وانتحال الشخصية عند فقدان الموافقة.
- يمكن أن تنخفض الدقة عبر اللهجات أو اللهجات أو البيئات الصاخبة.
- يمكن الخلط بين الصوت الاصطناعي والكلام الأصيل دون تصنيف واضح.
الخطوات التالية
- الحصول على موافقة صريحة لالتقاط الصوت واستنساخه وإعادة استخدامه.
- اختبار الجودة عبر مكبرات الصوت المتنوعة وظروف الخلفية.
- تحديد متى يجب على الإنسان مراجعة المخرجات أو الموافقة عليها.
- قم بتسمية الصوت الاصطناعي واحتفظ بسجلات المصدر للمساءلة.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the DDSP Differentiable Audio Synthesis quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
What is DDSP Differentiable Audio Synthesis?
يقوم DDSP (معالجة الإشارات الرقمية التفاضلية) بدمج العناصر الأساسية للمركب الكلاسيكي مع الشبكات العصبية، بحيث يمكن للتعلم العميق التحكم في المذبذبات والمرشحات مباشرة. إنها تنتج أصواتًا طبيعية بشكل لافت للنظر ويمكن التحكم فيها باستخدام نماذج صغيرة وبيانات قليلة.
ما هو الابتكار الرئيسي وراء DDSP؟
يقوم DDSP بتحويل وحدات بناء المُركب التقليدية إلى وحدات قابلة للتمييز، مما يسمح للشبكة العصبية بتعلم التحكم فيها عبر الانتشار العكسي.
في DDSP، ما الذي تنتجه الشبكة العصبية فعليًا؟
تتنبأ الشبكة بمعلمات التحكم المتغيرة بمرور الوقت، ويقوم مركب منفصل قابل للتمييز بإصدار الصوت منها - ولا يقوم أبدًا بإخراج العينات مباشرة.
ما المكونات الأساسية لتوليد الصوت التي يجمعها المُركِّب الطيفي لـ DDSP؟
ينتج المذبذب التوافقي الإضافي الجزء التوافقي النغمي بينما تضيف الضوضاء المفلترة نفسًا وملمسًا غير متناغم.
لماذا يمكن لـ DDSP تحقيق جودة عالية باستخدام نماذج صغيرة نسبيًا وبيانات قليلة؟
نظرًا لأن بنية معالجة الإشارات المعروفة تم بناؤها بدلاً من تعلمها من الصفر، فإن الشبكة لديها القليل لتتعلمه، مما يؤدي إلى تحسين كفاءة البيانات والمعلمات.
ما هي وظيفة الخسارة التي يستخدمها DDSP لمقارنة الصوت المُولد والمستهدف بقوة؟
تعد مقارنة المخططات الطيفية ذات الحجم بدقة متعددة أمرًا قويًا لاختلافات الطور، والتي تعاني منها الخسائر على مستوى العينة.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع