برنامج الترميز العصبي SoundStream
SoundStream هو برنامج ترميز صوتي عصبي شامل لـ Google والذي يضغط الكلام والموسيقى إلى معدلات بت منخفضة للغاية مع الحفاظ على الجودة.
نظرة عامة
هذا مهم لأنه يتفوق على الترميزات التقليدية مثل Opus بنفس معدل البت ويدعم نماذج الصوت التوليدي الحديثة.
الغوص العميق
تم تقديم SoundStream بواسطة Google في عام 2021، وهو عبارة عن برنامج ترميز عصبي بالكامل تم إنشاؤه من ثلاث قطع تم تدريبها معًا: جهاز تشفير تلافيفي يحول شكل الموجة الخام إلى تسلسل مضغوط من المتجهات، ومُكمم المتجهات المتبقية (RVQ) الذي يميز تلك المتجهات، ووحدة فك التشفير التلافيفية التي تعيد بناء شكل الموجة. لقد تم تدريبه على كل من خسائر إعادة الإعمار ومميز الخصومة على طراز GAN، لذا يبدو الناتج طبيعيًا وليس مجرد قريب عدديًا. الميزة البارزة هي التدريب "القابل للتطوير" أو التدريب على التسرب الكمي: يمكن لنموذج واحد أن يعمل عبر معدلات البت من حوالي 3 إلى 18 كيلوبت في الثانية ببساطة عن طريق استخدام طبقات أكثر أو أقل من طبقات الكميات عند الاستدلال، دون إعادة التدريب. ويقال إنه يتفوق بسرعة 3 كيلوبت في الثانية على Opus بسرعة 12 كيلوبت في الثانية في اختبارات الاستماع والتعامل مع الكلام والموسيقى والصوت العام في نموذج واحد يمكن تشغيله في الوقت الفعلي على وحدة المعالجة المركزية للهاتف الذكي.
البصيرة الفنية
يمر شكل الموجة من خلال تلافيفات ممتدة يتم اختزالها بشكل كبير، مما ينتج عنه تضمين واحد لكل إطار (على سبيل المثال، 75 إطارًا في الثانية). يقوم RVQ بعد ذلك بتشفير كل عملية تضمين كمجموعة من مؤشرات كتاب الرموز. معدل البت يساوي معدل الإطارات مضروبًا في عدد وحدات الكميات النشطة مضروبًا في البتات لكل كتاب رموز. يؤدي التسرب الكمي إلى قطع مكدس RVQ بشكل عشوائي أثناء التدريب، مما يجبر كتب التعليمات البرمجية السابقة على حمل المعلومات الأكثر أهمية بحيث يتحلل برنامج الترميز بشكل رائع بمعدلات أقل.
التأثير الاستراتيجي
الوصول والوصول
يعمل على تحسين إمكانية الوصول من خلال واجهات النسخ والسرد والصوت.
التكلفة والميزانية
يمكن للفرق الإعلامية شحن الصوت المصقول بشكل أسرع بميزانيات أصغر.
السرعة والحجم
يمكن للأنظمة التي تواجه العملاء معالجة التفاعلات المنطوقة على نطاق أوسع.
مستقبل برنامج الترميز العصبي SoundStream
أنشأ SoundStream القالب الذي قامت برامج الترميز اللاحقة مثل EnCodec وDAC بتحسينه، وأصبحت رموزه المنفصلة هي الركيزة للأنظمة التوليدية مثل AudioLM وMusicLM. توقع أن يدفع المتحدرون نحو معدلات بت أقل، ورموز مميزة منظمة لغويًا تتضاعف كمدخلات لمولدات الصوت بنمط نموذج اللغة، ونشر أكثر إحكامًا على الجهاز للمكالمات المباشرة، وأدوات السمع، والبث حيث يكون النطاق الترددي وزمن الوصول مقيدًا بشدة.
التنفيذ في العالم الحقيقي
ضغط المكالمات الصوتية إلى حوالي 3 كيلوبت في الثانية مع ظهور صوت أكثر وضوحًا من برامج الترميز القديمة بمعدلات بت أعلى
إنشاء رموز صوتية منفصلة تغذي نماذج AudioLM وMusicLM التوليدية لـ Google
بث صوتي منخفض النطاق في الوقت الفعلي على الأجهزة المحمولة باستخدام تشفير وفك تشفير وحدة المعالجة المركزية
تخزين أو نقل الموسيقى والصوت المحيط بكفاءة في نموذج واحد يتعامل مع جميع أنواع المحتوى
المخاطر والدرابزين
تزداد مخاطر إساءة استخدام الصوت وانتحال الشخصية عند فقدان الموافقة.
يمكن أن تنخفض الدقة عبر اللهجات أو اللهجات أو البيئات الصاخبة.
يمكن الخلط بين الصوت الاصطناعي والكلام الأصيل دون تصنيف واضح.
خارطة طريق التنفيذ
الحصول على موافقة صريحة لالتقاط الصوت واستنساخه وإعادة استخدامه.
اختبار الجودة عبر مكبرات الصوت المتنوعة وظروف الخلفية.
تحديد متى يجب على الإنسان مراجعة المخرجات أو الموافقة عليها.
قم بتسمية الصوت الاصطناعي واحتفظ بسجلات المصدر للمساءلة.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the SoundStream Neural Codec quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
برامج ترميز الصوت العصبية
الأسئلة المتداولة
ما هو ترميز SoundStream العصبي؟
SoundStream هو برنامج ترميز صوتي عصبي شامل لـ Google والذي يضغط الكلام والموسيقى إلى معدلات بت منخفضة للغاية مع الحفاظ على الجودة. إنه مهم لأنه يتفوق على برامج الترميز التقليدية مثل Opus بنفس معدل البت ويعمل على تشغيل نماذج الصوت التوليدية الحديثة.
ما هي المكونات الثلاثة التي تشكل بنية SoundStream؟
تم إنشاء SoundStream من جهاز تشفير تلافيفي، ومُكمم متجه متبقي يقوم بفصل التضمينات، ووحدة فك ترميز تلافيفي، جميعها مدربة من البداية إلى النهاية.
ما هي التقنية التي تتيح لنموذج SoundStream واحد تقديم العديد من معدلات البت المختلفة دون إعادة التدريب؟
أثناء التدريب، يقوم SoundStream بإسقاط طبقات الكمي بشكل عشوائي بحيث يمكنك عند الاستدلال استخدام مستويات RVQ أكثر أو أقل للوصول إلى معدلات بت مختلفة من نموذج واحد.
في اختبارات الاستماع الخاصة بـ Google، تم الإبلاغ عن تفوق SoundStream بسرعة 3 كيلوبت في الثانية على أي برنامج ترميز بسرعة 12 كيلوبت في الثانية؟
يطابق SoundStream بسرعة 3 كيلوبت في الثانية فقط أو يتفوق على برنامج ترميز Opus المستخدم على نطاق واسع والذي يعمل بسرعة 12 كيلوبت في الثانية في تقييمات الجودة الذاتية.
ما نوع إشارة التدريب الإضافية التي يستخدمها SoundStream لجعل الصوت الناتج طبيعيًا؟
بالإضافة إلى خسائر إعادة البناء، يستخدم SoundStream أدوات تمييز عدائية (GAN) بحيث تبدو عمليات إعادة البناء واقعية من الناحية الإدراكية وليست مجرد قريبة عدديًا.
كيف يرتبط معدل البت في SoundStream بمُكمِّماته؟
يتم قياس معدل البت مع عدد طبقات RVQ النشطة (مرات معدل الإطار مضروبًا في البتات لكل كتاب رموز)، لذا فإن إضافة المُكمِّمات يؤدي إلى رفع معدل البت والجودة.