Преглед
Riffusion е умен хак, който генерира музика, като третира звука като картина: той фино настройва модела на изображението Stable Diffusion, за да рисува спектрограми, след което преобразува тези изображения обратно в аудио. Има значение, защото показва, че инструмент, създаден за една среда (изображения), може да произведе друга (музика) без почти никаква нова архитектура.
Riffusion Spectrogram Diffusion се намира в аудио-AI работни потоци, които трансформират реч, музика и звук за комуникация, достъпност и медийно производство.
Дълбоко гмуркане
Riffusion, издаден в края на 2022 г. от Сет Форсгрен и Хайк Мартирос, започна като хоби проект. Основният трик: спектрограмата е 2D изображение, където хоризонталната ос е времето, вертикалната ос е честотата, а яркостта на пикселите е силата на звука. Тъй като Stable Diffusion вече генерира изображения от текстови подкани, създателите го настроиха фино върху хиляди сдвоени примери за спектрограма-текст. Подканете го с „фънки джаз бас“ и той обезшумява случаен шум в спектрограма на този звук. За да направи аудио, което може да се възпроизвежда, Riffusion пуска спектрограмата чрез алгоритъм на Griffin-Lim, който реконструира информацията за липсващата фаза. Тъй като дифузията може да се интерполира плавно между подканите, Riffusion може също така да трансформира един стил в друг върху непрекъснат клип, безпроблемно зацикляйки.
Техническа информация
Riffusion използва повторно тръбопровода за латентна дифузия непроменен: U-Net итеративно премахва шума на Гаус от латентно изображение, обусловено от вграждане на CLIP текст. Единствената работа, специфична за домейн, е представянето на спектрограмата (mel-мащаб, логаритмична мощност) и реконструкцията на фазата на Griffin-Lim, която превръща прогнозираната спектрограма на величината обратно във форма на вълната. Фазата се изхвърля по време на кодирането, така че итеративната оценка на Griffin-Lim е основният източник на характерните „воднисти“ артефакти.
Овладяване на дифузия на рифузионна спектрограма
Riffusion е умен хак, който генерира музика, като третира звука като картина: той фино настройва модела на изображението Stable Diffusion, за да рисува спектрограми, след което преобразува тези изображения обратно в аудио. Има значение, защото показва, че инструмент, създаден за една среда (изображения), може да произведе друга (музика) без почти никаква нова архитектура. Riffusion Spectrogram Diffusion се намира в аудио-AI работни потоци, които трансформират реч, музика и звук за комуникация, достъпност и медийно производство. За да изградите дълбоко разбиране, третирайте Riffusion Spectrogram Diffusion като оперативен модел, а не като отделна функция: дефинирайте желаните резултати, изяснете предположенията и отделете това, което системата може да направи надеждно, от това, което все още изисква експертна преценка.
На практика силните екипи, използващи Riffusion Spectrogram Diffusion, третират качеството, латентността и съгласието като еднакво важни части от стратегията за внедряване. Те документират изрични критерии за успех, тестват срещу реалистични данни и работни потоци и повтарят въз основа на наблюдавани модели на неуспех, а не на еднократни победи в бенчмарка. Това е мястото, където теоретичното разбиране се превръща в трайна способност за продукти, политики и операции.
Той подобрява достъпността чрез интерфейси за транскрипция, дикторски текст и глас. В същото време рисковете от злоупотреба с глас и имитация се увеличават, когато липсва съгласие. Най-устойчивият подход е да се комбинира скоростта на експериментиране с дисциплината на управление: стартирайте пилотни проекти, събирайте доказателства, публикувайте регистрационни файлове за решения и непрекъснато актуализирайте предпазните мерки, докато поведението на модела, очакванията на потребителите и регулаторните изисквания се развиват.
Стратегическо въздействие
Той подобрява достъпността чрез интерфейси за транскрипция, дикторски текст и глас.
Той подобрява достъпността чрез интерфейси за транскрипция, дикторски текст и глас. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Медийните екипи могат да доставят изпипано аудио по-бързо с по-малки бюджети.
Медийните екипи могат да доставят изпипано аудио по-бързо с по-малки бюджети. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Системите, насочени към клиента, могат да обработват устни взаимодействия в по-голям мащаб.
Системите, насочени към клиента, могат да обработват устни взаимодействия в по-голям мащаб. При висококачествени внедрявания това се превръща в измерими правила за работа, граници на собствеността и повтарящи се ритуали за преглед, така че екипите да могат да мащабират доверието, вместо да мащабират неяснотата.
Внедряване в реалния свят
Генериране на кратки зациклящи фонови песни за инди видеоигри от текстова подкана като „напрегнато преследване на синтезирана вълна“
Плавно преминаване между два музикални стила, напр. смесване на „тропическа къща“ в „lo-fi хип-хоп“ в един клип
Произвеждане на безвъзмездни музикални легла за видеоклипове и подкасти в YouTube без лицензионни такси
Създаване на прототипи на мелодични или ритмични идеи, които музикантът след това презаписва правилно в цифрова аудио работна станция
Модели на изпълнение
Рифузионна спектрограма Дифузия на практика
Генериране на кратки зациклящи фонови песни за инди видеоигри от текстова подкана като „напрегнато преследване на синтезирана вълна“.
Генериране на кратки зациклящи фонови песни за независими видеоигри от текстова подкана като „напрегнато преследване на синтезирана вълна“ Екипите обикновено получават по-добри резултати, когато дефинират прагове за качество отпред, поддържат човешки път на ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рифузионна спектрограма Дифузия на практика
Плавно преминаване между два музикални стила, напр. смесване на „тропическа къща“ в „lo-fi хип-хоп“ в един клип.
Плавно преминаване между два музикални стила, напр. смесване на „тропическа къща“ в „lo-fi хип-хоп“ в един клип Екипите обикновено получават по-добри резултати, когато предварително определят праговете за качество, поддържат човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рифузионна спектрограма Дифузия на практика
Произвеждане на легла с ембиентна музика без възнаграждения за видеоклипове и подкасти в YouTube без лицензионни такси.
Произвеждане на безвъзмездни ембиентни музикални легла за видеоклипове и подкасти в YouTube без лицензионни такси Екипите обикновено получават по-добри резултати, когато предварително определят прагове за качество, поддържат път на човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рифузионна спектрограма Дифузия на практика
Прототипиране на мелодични или ритмични идеи, които музикантът след това презаписва правилно в цифрова аудио работна станция.
Създаване на прототипи на мелодични или ритмични идеи, които музикантът след това презаписва правилно в цифрова аудио работна станция. Екипите обикновено получават по-добри резултати, когато определят предварително прагове за качество, поддържат път на човешка ескалация за крайни случаи и проследяват както печалбите в производителността, така и разходите за грешки във времето.
Рискове и предпазни огради
Рисковете от злоупотреба с глас и имитация се увеличават, когато липсва съгласие.
Точността може да спадне при акценти, диалекти или шумна среда.
Синтетичното аудио може да бъде сбъркано с автентична реч без ясно етикетиране.
Пътна карта за изпълнение
Получете изрично съгласие за улавяне на глас, клониране и повторно използване.
Получете изрично съгласие за улавяне на глас, клониране и повторно използване. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Тествайте качеството при различни високоговорители и фонови условия.
Тествайте качеството при различни високоговорители и фонови условия. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Определете кога човек трябва да прегледа или одобри резултатите.
Определете кога човек трябва да прегледа или одобри резултатите. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.
Етикетирайте синтетичното аудио и поддържайте записи за произход за отчетност.
Етикетирайте синтетичното аудио и поддържайте записи за произход за отчетност. Отнасяйте се към всяка стъпка като към вход за доказателства: ако критериите не са изпълнени, поставете на пауза разпространението, запълнете празнината и едва след това разширете използването.