SıradakiSonraki rehber
AudioGen Metinden Sese Sentez
Ses Yapay Zekası
Ses AI KILAVUZU
DDSP Farklılaştırılabilir Ses Sentezi
DDSP (Farklılaştırılabilir Dijital Sinyal İşleme), klasik sentezleyici yapı taşlarını sinir ağlarıyla birleştirir, böylece derin öğrenme osilatörleri ve filtreleri doğrudan kontrol edebilir.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Bu sayfada2 dakika okuma
Genel Bakış
Küçük modeller ve az miktarda veri ile çarpıcı derecede doğal, kontrol edilebilir enstrüman sesleri üretir.
Derin Dalış
Google'in Magenta ekibi tarafından 2020'de tanıtılan DDSP, sinirsel ses üretimini yeniden düşünüyor. Ham ses örneklerini teker teker (WaveNet gibi) veya bir spektrogramın piksellerini tahmin eden bir ağ yerine, DDSP, geleneksel DSP bileşenlerini (harmonik bir katkı osilatörü, filtrelenmiş bir gürültü üreteci ve yankı) ayırt edilebilir hale getirir. Bu, eğitim sırasında gradyanların içinden akabileceği anlamına gelir; böylece küçük bir sinir ağı, yorumlanabilir kontrol sinyalleri çıkarmayı öğrenir: temel perde, genel ses yüksekliği ve düzinelerce harmoniğin zaman içindeki genlikleri. Daha sonra bir sentezleyici bu kontrollerden gelen gerçek sesi işler. Sesin fiziği sıfırdan öğrenilmek yerine mimariye işlendiğinden, DDSP çok daha az parametre ve eğitim örneğiyle yüksek kalite elde eder ve kullanıcıların ses perdesini, ses yüksekliğini ve tınıyı bağımsız olarak değiştirmesine olanak tanır; hatta şarkı söyleyen bir sesin keman gibi çalınması gibi tını aktarımı bile gerçekleştirir.
Gerçek Dünya Uygulaması
Mırıldanılan veya söylenen bir melodiyi alıp onu gerçek zamanlı olarak keman, flüt veya trompet olarak yeniden işleyen tını aktarım araçları.
Müzisyenlerin sezgisel perde, ses yüksekliği ve parlaklık düğmeleriyle kontrol ettiği hafif nöral synthesizer eklentileri.
Doğal harmonik ayrıntıyı korurken kayıtlı enstrümanların perde düzeltmesi ve etkileyici yeniden sentezi.
Ağır GPU modelleri olmadan gerçekçi enstrüman sesleri üreten tarayıcı tabanlı etkileşimli müzik demoları.
DDSP Farklılaştırılabilir Ses Sentezinin Geleceği
DDSP, tarayıcı içi ve yerleşik aygıtlar da dahil olmak üzere mütevazı donanımlarda çalışan gerçek zamanlı, düşük gecikmeli sinir enstrümanlarını ve ses efektlerini öne çıkarıyor. Yorumlanabilir kontrolleri, onu müzisyenlerin doğrudan tınıyı çevirdiği etkileyici performans araçları ve hibrit synthesizer'lar için ideal kılar. Araştırmacılar, farklılaştırılabilir DSP fikrini fiziksel modellemeye, oda akustiğine ve tam ses üretim zincirlerine kadar genişletiyor ve klasik sinyal işlemenin kontrol edilebilirliğini müzik oluşturma ve ses tasarımı genelinde derin öğrenmenin gerçekçiliğiyle harmanlıyor.
Uygulamaya koymak
Neden önemli?
- Erişim ve erişim. Transkripsiyon, anlatım ve ses arayüzleri aracılığıyla erişilebilirliği artırır.
- Maliyet ve bütçe. Medya ekipleri daha küçük bütçelerle daha iyi ses kalitesi sunabilir.
- Hız ve ölçek. Müşteriyle yüz yüze olan sistemler, sözlü etkileşimleri daha büyük ölçekte işleyebilir.
Dikkat edin
- Onay eksik olduğunda sesin kötüye kullanılması ve kimliğe bürünme riskleri artar.
- Aksanlar, lehçeler veya gürültülü ortamlarda doğruluk düşebilir.
- Sentetik ses, net bir etiketleme olmadan, orijinal konuşmayla karıştırılabilir.
Sonraki adımlar
- Sesin yakalanması, klonlanması ve yeniden kullanılması için açık izin alın.
- Kaliteyi farklı hoparlörler ve arka plan koşullarında test edin.
- Bir insanın çıktıları ne zaman incelemesi veya onaylaması gerektiğini tanımlayın.
- Sentetik sesi etiketleyin ve sorumluluk için kaynak kayıtlarını saklayın.
Keşfetmeye Devam Edin
Ücretsiz bülten
Günlük AI brifingini alın
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Take the DDSP Differentiable Audio Synthesis quiz
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Sık sorulan sorular
DDSP Türevlenebilir Ses Sentezi Nedir?
DDSP (Farklılaştırılabilir Dijital Sinyal İşleme), klasik sentezleyici yapı taşlarını sinir ağlarıyla birleştirir, böylece derin öğrenme osilatörleri ve filtreleri doğrudan kontrol edebilir. Küçük modeller ve az miktarda veri ile çarpıcı derecede doğal, kontrol edilebilir enstrüman sesleri üretir.
DDSP'nin arkasındaki temel yenilik nedir?
DDSP, geleneksel sentezleyici yapı taşlarını farklılaştırılabilir modüllere dönüştürerek sinir ağının bunları geri yayılım yoluyla kontrol etmeyi öğrenmesini sağlar.
DDSP'de sinir ağı gerçekte ne çıktı verir?
Ağ, zamanla değişen kontrol parametrelerini tahmin eder ve ayrı bir türevlenebilir sentezleyici, bunlardan gelen sesi işler; hiçbir zaman doğrudan örneklerin çıktısını vermez.
DDSP'nin spektral sentezleyicisi hangi iki temel ses üreten bileşeni birleştiriyor?
Harmonik katkılı bir osilatör, perdeli, harmonik kısmı üretirken, filtrelenmiş gürültü nefes ve harmonik olmayan doku ekler.
DDSP neden nispeten küçük modeller ve az veriyle yüksek kaliteye ulaşabiliyor?
Bilinen sinyal işleme yapısı sıfırdan öğrenilmek yerine yerleşik olduğundan, ağın öğrenecek çok daha az şeyi vardır, bu da veri ve parametre verimliliğini artırır.
DDSP, oluşturulan ve hedeflenen sesi sağlam bir şekilde karşılaştırmak için hangi kayıp işlevini kullanır?
Büyüklük spektrogramlarının birden fazla çözünürlükte karşılaştırılması, numune düzeyindeki kayıpların zorlandığı faz farklılıklarına karşı dayanıklıdır.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi