Als nächstesNächster Leitfaden
Audioeinbettungen und Repräsentationslernen
Audio-KI
Audio-KI-GUIDE
EnCodec-Audiokomprimierung
EnCodec ist der hochauflösende neuronale Audio-Codec von Meta, der Sprache und Musik mit sehr niedrigen Bitraten komprimiert und dessen Qualität weitaus schwereren Formaten Konkurrenz macht.
Hören Sie sich diesen Leitfaden anKI-erzählt · ~2 min
Auf dieser Seite2 Minuten gelesen
Übersicht
Es ist wichtig, weil es modernen generativen Audiosystemen zugrunde liegt und in Open-Source-Form für die Nutzung durch jedermann geliefert wird.
Tiefer Einblick
EnCodec wurde 2022 von Meta AI veröffentlicht und folgt dem SoundStream-Entwurf eines Encoders, eines Restvektorquantisierers (RVQ) und eines Ende-zu-Ende-trainierten Decoders, fügt jedoch mehrere Verfeinerungen hinzu. Es verwendet einen Streaming-fähigen Faltungsencoder, mehrskalige Spektrogramm- und Zeitbereichs-Rekonstruktionsverluste sowie kontradiktorische Diskriminatoren für die Wahrnehmungsqualität. Ein bemerkenswerter Beitrag ist ein kleines Transformer-basiertes Entropiemodell, das die quantisierten Codes verlustfrei weiter komprimiert und zusätzliche Bits ohne Qualitätsverlust herausquetscht. EnCodec führt außerdem einen Balancer ein, der die vielen konkurrierenden Trainingsverluste automatisch skaliert, damit sie stabil bleiben. Es verarbeitet monophones 24-kHz- und 48-kHz-Stereo-Audio, arbeitet mit Bitraten wie 1,5, 3, 6 und 12 kbps und erreicht bei 6 kbps eine Qualität, die mit MP3 bei 64 kbps vergleichbar ist. Seine Token unterstützen MusicGen und AudioGen von Meta.
Reale Umsetzung
Tokenisierung von Audio für die Text-zu-Audio-Generatoren MusicGen und AudioGen von Meta
Komprimierung von 24-kHz-Sprache auf 1,5–6 kbit/s für eine bandbreitenbegrenzte Übertragung
Kodierung von 48-kHz-Stereomusik mit einer Qualität nahe MP3 bei viel höheren Bitraten
Dient als Open-Source-Drop-in-Codec für Forschungs- und Audio-ML-Pipelines über die freigegebenen Prüfpunkte
Die Zukunft der EnCodec-Audiokomprimierung
EnCodec ist bereits der Standard-Tokenizer für mehrere offene generative Audiomodelle, und seine Nachkommen drängen auf eine höhere Wiedergabetreue bei niedrigeren Bitraten, eine vollständige Rekonstruktion in Stereo- und Musikqualität sowie eine engere Integration mit Text-zu-Audio- und Text-zu-Musik-Generatoren. Erwarten Sie eine breitere Akzeptanz in der Kommunikation mit geringer Bandbreite, beim Echtzeit-Streaming und als standardmäßige „Audio-Token“-Schicht, die es großen Architekturen im Stil eines Sprachmodells ermöglicht, Ton zu lesen und zu schreiben.
In die Tat umsetzen
Warum es wichtig ist
- Zugang und Erreichbarkeit. Es verbessert die Zugänglichkeit durch Transkription, Erzählung und Sprachschnittstellen.
- Kosten und Budget. Medienteams können mit kleineren Budgets schneller ausgefeilte Audioinhalte liefern.
- Geschwindigkeit und Umfang. Kundenorientierte Systeme können gesprochene Interaktionen in größerem Maßstab verarbeiten.
Achten Sie auf
- Das Risiko von Stimmmissbrauch und Identitätsdiebstahl steigt, wenn die Einwilligung fehlt.
- Die Genauigkeit kann je nach Akzent, Dialekt oder lauter Umgebung abnehmen.
- Synthetisches Audio kann ohne klare Kennzeichnung mit authentischer Sprache verwechselt werden.
Nächste Schritte
- Holen Sie die ausdrückliche Zustimmung zur Spracherfassung, zum Klonen und zur Wiederverwendung ein.
- Testen Sie die Qualität über verschiedene Lautsprecher und Hintergrundbedingungen hinweg.
- Definieren Sie, wann ein Mensch Ausgaben überprüfen oder genehmigen muss.
- Kennzeichnen Sie synthetisches Audio und bewahren Sie Aufzeichnungen über die Herkunft auf, um die Verantwortlichkeit zu gewährleisten.
Entdecken Sie weiter
Kostenloser Newsletter
Erhalten Sie die tägliche KI-Briefing
Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.
Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.
Testen Sie sich selbst
Take the EnCodec Audio Compression quiz
Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.
Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende
Häufig gestellte Fragen
Was ist EnCodec-Audiokomprimierung?
EnCodec ist der hochauflösende neuronale Audio-Codec von Meta, der Sprache und Musik mit sehr niedrigen Bitraten komprimiert und dessen Qualität weitaus schwereren Formaten Konkurrenz macht. Es ist wichtig, weil es modernen generativen Audiosystemen zugrunde liegt und in Open-Source-Form für die Nutzung durch jedermann geliefert wird.
Welche Organisation hat EnCodec veröffentlicht?
EnCodec wurde 2022 von Meta AI (FAIR) als hochauflösender neuronaler Audio-Codec eingeführt.
Welche zusätzliche Komponente fügt EnCodec hinzu, um verlustfrei mehr Komprimierung aus seinen Token herauszuholen?
EnCodec trainiert einen kleinen Transformer, um Token-Wahrscheinlichkeiten vorherzusagen, und codiert sie arithmetisch, wodurch zusätzlich zu RVQ eine zusätzliche verlustfreie Komprimierung erreicht wird.
Mit etwa 6 Kbit/s war die Qualität von EnCodec mit der von MP3 vergleichbar, bei welcher Bitrate etwa?
EnCodec erreicht bei 6 kbps eine subjektive Qualität, die der von MP3 bei 64 kbps ähnelt, was einen großen Effizienzgewinn darstellt.
Welches Problem löst der „Balancer“ von EnCodec während des Trainings?
Bei vielen Verlusten (Rekonstruktion, Spektralverlust, kontradiktorisch) skaliert der Balancer deren Gradienten neu, sodass kein einzelnes Ziel dominiert, was das Training stabilisiert.
Welche Kernquantisierungsmethode teilt EnCodec mit SoundStream?
Wie SoundStream verwendet EnCodec die Restvektorquantisierung, um Encoder-Einbettungen in gestapelte Codebuch-Indizes zu diskretisieren.
Lerne weiter
Verwandte Leitfäden
Weitere Leitfäden zu diesem Thema ausgewählt