Νευρωνικοί κωδικοποιητές ήχου
Οι νευρωνικοί κωδικοποιητές ήχου χρησιμοποιούν βαθιά εκμάθηση για να συμπιέσουν τον ήχο σε μικροσκοπικές ροές διακριτών διακριτικών και να τον ανακατασκευάσουν με υψηλή πιστότητα.
Επισκόπηση
They both crush bandwidth for calls and streaming and provide the token vocabulary that audio language models speak.
Βαθιά κατάδυση
Ένας νευρωνικός κωδικοποιητής ήχου είναι ένα νευρωνικό δίκτυο κωδικοποιητή-αποκωδικοποιητή που έχει εκπαιδευτεί να συμπιέζει τον ήχο και να τον ανακατασκευάζει. Ο κωδικοποιητής μετατρέπει μια κυματομορφή σε μια συμπαγή λανθάνουσα, ένας κβαντιστής κουμπώνει που λανθάνει σε εγγραφές σε μαθημένα βιβλία κωδικών που παράγουν διακριτά διακριτικά, και ο αποκωδικοποιητής ανακατασκευάζει την κυματομορφή. Η βασική τεχνική είναι το Residual Vector Quantization (RVQ), που χρησιμοποιείται από το SoundStream του Google και το EnCodec του Meta: πολλά βιβλία κωδίκων στοιβάζονται, το καθένα κωδικοποιεί το σφάλμα που έχει απομείνει από το προηγούμενο, ώστε να μπορείτε να ανταλλάξετε περισσότερους ή λίγους bitrate με ποιότητα βιβλίου κωδικών. Αυτά τα μοντέλα επιτυγχάνουν εντυπωσιακή ποιότητα σε πολύ χαμηλούς ρυθμούς bit, μερικές φορές μερικά kilobits ανά δευτερόλεπτο, ξεπερνώντας τους κλασικούς κωδικοποιητές όπως το Opus ή το MP3. Είναι πολύ σημαντικό ότι τα διακριτά διακριτικά είναι ακριβώς αυτά που δημιουργούν μοντέλα όπως το VALL-E και το MusicGen.
Τεχνική διορατικότητα
Το RVQ είναι η καρδιά του σχεδιασμού. Το πρώτο βιβλίο κωδίκων συλλαμβάνει μια χονδρική προσέγγιση και κάθε επόμενο βιβλίο κωδίκων κβαντοποιεί το υπολειπόμενο σφάλμα, στρώνοντας λεπτότερες λεπτομέρειες. Η εκπαίδευση συνδυάζει μια απώλεια ανακατασκευής, συχνά τόσο σε χρονικούς όσο και σε φασματικούς τομείς, με έναν αντίθετο διαχωριστή που διατηρεί την έξοδο να ακούγεται αληθινή, συν μια απώλεια δέσμευσης που διατηρεί τις εξόδους του κωδικοποιητή κοντά στις επιλεγμένες εγγραφές του βιβλίου κωδίκων. Το αποτέλεσμα είναι μια διακριτή, ιεραρχική αναπαράσταση που είναι συμπιεστή και εύκολη για έναν μετασχηματιστή κατάντη να μοντελοποιήσει.
Στρατηγικός αντίκτυπος
Πρόσβαση και προσέγγιση χρηστών
Βελτιώνει την προσβασιμότητα μέσω διασυνδέσεων μεταγραφής, αφήγησης και φωνής.
Κόστος και προϋπολογισμός
Οι ομάδες πολυμέσων μπορούν να αποστέλλουν γυαλισμένο ήχο πιο γρήγορα με μικρότερους προϋπολογισμούς.
Ταχύτητα και κλίμακα
Τα συστήματα που αντιμετωπίζουν πελάτες μπορούν να επεξεργάζονται προφορικές αλληλεπιδράσεις σε μεγαλύτερη κλίμακα.
Το μέλλον των νευρωνικών κωδικοποιητών ήχου
Οι κωδικοποιητές συγκλίνουν προς ακόμη χαμηλότερους ρυθμούς bit με λιγότερα βιβλία κωδικών, καθιστώντας τα διακριτικά ήχου φθηνότερα για τη δημιουργία γλωσσικών μοντέλων. Η έρευνα ωθεί προς τη ροή, παραλλαγές χαμηλής καθυστέρησης για επικοινωνία σε πραγματικό χρόνο και προς ενοποιημένους κωδικοποιητές που χειρίζονται την ομιλία, τη μουσική και τον γενικό ήχο σε ένα μοντέλο. Καθώς ο παραγωγικός ήχος εκρήγνυται, ο κωδικοποιητής αντιμετωπίζεται όλο και περισσότερο ως το κοινόχρηστο tokenizer για ολόκληρο το πεδίο, επομένως οι βελτιώσεις εδώ κυματίζονται σε κάθε μοντέλο κειμένου σε ομιλία και μουσική που είναι ενσωματωμένο στην κορυφή.
Υλοποίηση σε πραγματικό κόσμο
Συμπίεση φωνής για κλήσεις εξαιρετικά χαμηλού εύρους ζώνης και εφαρμογές στυλ walkie-talkie
Παροχή της διακριτής μορφής διακριτικού που δημιουργούν τα VALL-E, AudioLM και MusicGen
Αποτελεσματική αποθήκευση και ροή ήχου υψηλής ποιότητας σε κλάσμα ρυθμών μετάδοσης bit MP3
Μετάδοση ομιλίας σε πραγματικό χρόνο σε θορυβώδεις ή περιορισμένες συνθήκες δικτύου
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Οι κίνδυνοι κατάχρησης φωνής και πλαστοπροσωπίας αυξάνονται όταν λείπει η συγκατάθεση.
Η ακρίβεια μπορεί να πέσει σε τόνους, διαλέκτους ή θορυβώδη περιβάλλοντα.
Ο συνθετικός ήχος μπορεί να εκληφθεί εσφαλμένα ως αυθεντική ομιλία χωρίς σαφή σήμανση.
Οδικός Χάρτης Εφαρμογής
Λάβετε ρητή συγκατάθεση για λήψη φωνής, κλωνοποίηση και επαναχρησιμοποίηση.
Δοκιμάστε την ποιότητα σε διαφορετικά ηχεία και συνθήκες φόντου.
Καθορίστε πότε ένας άνθρωπος πρέπει να επανεξετάσει ή να εγκρίνει τα αποτελέσματα.
Επισημάνετε τον συνθετικό ήχο και κρατήστε αρχεία προέλευσης για υπευθυνότητα.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Neural Audio Codecs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
SoundStream Neural Codec
Συχνές ερωτήσεις
What is Neural Audio Codecs?
Οι νευρωνικοί κωδικοποιητές ήχου χρησιμοποιούν βαθιά εκμάθηση για να συμπιέσουν τον ήχο σε μικροσκοπικές ροές διακριτών διακριτικών και να τον ανακατασκευάσουν με υψηλή πιστότητα. Και τα δύο συνθλίβουν το εύρος ζώνης για κλήσεις και ροή και παρέχουν το συμβολικό λεξιλόγιο που μιλούν τα μοντέλα γλωσσών ήχου.
Ποια δύο πράγματα κάνει πρωτίστως ένας νευρωνικός κωδικοποιητής ήχου;
Ένας νευρωνικός κωδικοποιητής είναι ένα δίκτυο κωδικοποιητή-αποκωδικοποιητή που συμπιέζει μια κυματομορφή σε συμπαγή διακριτά διακριτικά και στη συνέχεια αναδομεί τον ήχο από αυτά.
Ποια τεχνική κβαντοποίησης είναι κεντρική σε κωδικοποιητές όπως το SoundStream και το EnCodec;
Το RVQ στοιβάζει πολλά βιβλία κωδίκων όπου το καθένα κωδικοποιεί το υπολειπόμενο σφάλμα του προηγούμενου, επιτρέποντας μια αντιστάθμιση ποιότητας έναντι ρυθμού bit.
Στο Residual Vector Quantization, τι κωδικοποιεί κάθε διαδοχικό βιβλίο κωδικών;
Το πρώτο βιβλίο κωδίκων δίνει μια χονδρική προσέγγιση και κάθε επόμενο βιβλίο κωδίκων κβαντοποιεί το υπόλοιπο σφάλμα, προσθέτοντας λεπτότερες λεπτομέρειες.
Γιατί οι νευρωνικοί κωδικοποιητές ήχου είναι σημαντικοί για τα μοντέλα παραγωγής ήχου;
Τα διακριτά διακριτικά που παράγονται από κωδικοποιητές γίνονται το λεξιλόγιο που προβλέπουν και δημιουργούν τα μοντέλα ακουστικών γλωσσών.
Πώς η χρήση περισσότερων βιβλίων κωδικών σε έναν νευρωνικό κωδικοποιητή επηρεάζει την έξοδο;
Η προσθήκη βιβλίων κωδίκων αυξάνει το bitrate, αλλά αποτυπώνει περισσότερες λεπτομέρειες, βελτιώνοντας την πιστότητα. χρησιμοποιώντας λιγότερη ποιότητα συναλλαγών για συμπίεση.