ภาพรวม
Riffusion เป็นแฮ็กอันชาญฉลาดที่สร้างเพลงโดยถือว่าเสียงเป็นรูปภาพ โดยจะปรับแต่งโมเดลรูปภาพ Stable Diffusion เพื่อระบายสีสเปกโตรแกรม จากนั้นแปลงรูปภาพเหล่านั้นกลับเป็นเสียง เป็นเรื่องสำคัญเพราะมันแสดงให้เห็นว่าเครื่องมือที่สร้างขึ้นสำหรับสื่อหนึ่ง (รูปภาพ) สามารถสร้างอีกสื่อหนึ่ง (เพลง) โดยแทบไม่มีสถาปัตยกรรมใหม่เลย
Riffusion Spectrogram Diffusion ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ
เจาะลึก
Riffusion วางจำหน่ายในช่วงปลายปี 2022 โดย Seth Forsgren และ Hayk Martiros เริ่มต้นจากโปรเจ็กต์งานอดิเรก เคล็ดลับหลัก: สเปกโตรแกรมคือภาพ 2 มิติ โดยแกนนอนคือเวลา แกนแนวตั้งคือความถี่ และความสว่างของพิกเซลคือความดัง เนื่องจาก Stable Diffusion สร้างภาพจากข้อความแจ้งแล้ว ผู้สร้างจึงปรับแต่งภาพดังกล่าวด้วยตัวอย่างข้อความสเปกโตรแกรมที่จับคู่กันหลายพันตัวอย่าง แจ้งเตือนด้วย 'เบสแจ๊สเบสสุดเก๋' และมันจะลดเสียงรบกวนแบบสุ่มลงในสเปกตรัมของเสียงนั้น หากต้องการสร้างเสียงที่สามารถเล่นได้ Riffusion จะรันสเปกโตรแกรมผ่านอัลกอริธึม Griffin-Lim ที่สร้างข้อมูลเฟสที่ขาดหายไปขึ้นมาใหม่ เนื่องจากการแพร่กระจายสามารถสอดแทรกระหว่างข้อความแจ้งได้อย่างราบรื่น Riffusion จึงสามารถปรับเปลี่ยนสไตล์หนึ่งไปเป็นอีกสไตล์หนึ่งผ่านคลิปที่ต่อเนื่องกันและวนซ้ำได้อย่างราบรื่น
ข้อมูลเชิงลึกทางเทคนิค
Riffusion จะนำท่อการแพร่กระจายแฝงกลับมาใช้ใหม่โดยไม่มีการเปลี่ยนแปลง: U-Net จะกำจัดสัญญาณรบกวนแบบเกาส์เซียนซ้ำ ๆ ออกจากภาพแฝงที่มีเงื่อนไขในการฝังข้อความ CLIP งานเฉพาะโดเมนเพียงอย่างเดียวคือการแสดงสเปกโตรแกรม (เมลสเกล พลังงานบันทึก) และการสร้างเฟสกริฟฟิน-ลิมขึ้นมาใหม่ ซึ่งเปลี่ยนสเปกโตรแกรมขนาดที่คาดการณ์ไว้กลับเป็นรูปคลื่น เฟสถูกยกเลิกในระหว่างการเข้ารหัส ดังนั้นการประมาณค่าซ้ำของ Griffin-Lim จึงเป็นแหล่งที่มาหลักของสิ่งประดิษฐ์ที่มีลักษณะเป็น 'น้ำ'
การเรียนรู้การกระจายสเปกตรัมสเปกตรัมแบบกระจาย
Riffusion เป็นแฮ็กอันชาญฉลาดที่สร้างเพลงโดยถือว่าเสียงเป็นรูปภาพ โดยจะปรับแต่งโมเดลรูปภาพ Stable Diffusion เพื่อระบายสีสเปกโตรแกรม จากนั้นแปลงรูปภาพเหล่านั้นกลับเป็นเสียง เป็นเรื่องสำคัญเพราะมันแสดงให้เห็นว่าเครื่องมือที่สร้างขึ้นสำหรับสื่อหนึ่ง (รูปภาพ) สามารถสร้างอีกสื่อหนึ่ง (เพลง) โดยแทบไม่มีสถาปัตยกรรมใหม่เลย Riffusion Spectrogram Diffusion ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ หากต้องการสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Riffusion Spectrogram Diffusion เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ
ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ Riffusion Spectrogram Diffusion จะถือว่าคุณภาพ เวลาแฝง และความยินยอมเป็นส่วนสำคัญของกลยุทธ์การปรับใช้ โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในขณะเดียวกัน การใช้ Voice ในทางที่ผิดและการแอบอ้างบุคคลอื่นก็มีความเสี่ยงเพิ่มขึ้นเมื่อไม่ได้รับความยินยอม แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง
ผลกระทบเชิงกลยุทธ์
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
การใช้งานจริงในโลกแห่งความเป็นจริง
การสร้างแทร็กพื้นหลังแบบวนซ้ำสั้น ๆ สำหรับวิดีโอเกมอินดี้จากข้อความแจ้งเช่น 'tense synthwave Chase'
ปรับเปลี่ยนระหว่างดนตรีสองสไตล์ได้อย่างราบรื่น เช่น ผสมผสาน 'บ้านเขตร้อน' เข้ากับ 'โล-ไฟ ฮิปฮอป' ในคลิปเดียว
ผลิตเตียงเพลงแอมเบียนต์ที่ไม่มีค่าลิขสิทธิ์สำหรับวิดีโอ YouTube และพอดแคสต์โดยไม่มีค่าธรรมเนียมใบอนุญาต
การสร้างต้นแบบแนวคิดเกี่ยวกับทำนองหรือจังหวะที่นักดนตรีบันทึกซ้ำอย่างเหมาะสมในเวิร์กสเตชันเสียงดิจิทัล
รูปแบบการดำเนินงาน
Riffusion Spectrogram การแพร่กระจายในทางปฏิบัติ
การสร้างแทร็กพื้นหลังแบบวนซ้ำสั้นๆ สำหรับวิดีโอเกมอินดี้จากข้อความแจ้งเตือน เช่น "tense synthwave Chase"
การสร้างแทร็กพื้นหลังแบบวนซ้ำสั้นๆ สำหรับวิดีโอเกมอินดี้จากข้อความแจ้งเตือน เช่น 'การไล่ล่าคลื่นสังเคราะห์ที่ตึงเครียด' ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
Riffusion Spectrogram การแพร่กระจายในทางปฏิบัติ
ปรับเปลี่ยนระหว่างดนตรีสองสไตล์ได้อย่างราบรื่น เช่น ผสมผสาน 'บ้านเขตร้อน' เข้ากับ 'โล-ไฟ ฮิปฮอป' ในคลิปเดียว
ปรับเปลี่ยนระหว่างดนตรีสองสไตล์ได้อย่างราบรื่น เช่น การผสมผสาน 'บ้านเขตร้อน' เข้ากับ 'lo-fi ฮิปฮอป' ในคลิปเดียว ทีมมักจะได้ผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
Riffusion Spectrogram การแพร่กระจายในทางปฏิบัติ
ผลิตเตียงเพลงแอมเบียนต์ที่ไม่มีค่าลิขสิทธิ์สำหรับวิดีโอ YouTube และพอดแคสต์โดยไม่มีค่าธรรมเนียมใบอนุญาต
การผลิตเตียงเพลงแอมเบียนต์ที่ไม่มีค่าสิทธิสำหรับวิดีโอ YouTube และพอดแคสต์โดยไม่มีค่าธรรมเนียมใบอนุญาต ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
Riffusion Spectrogram การแพร่กระจายในทางปฏิบัติ
การสร้างต้นแบบแนวคิดเกี่ยวกับทำนองหรือจังหวะที่นักดนตรีจะบันทึกซ้ำอย่างเหมาะสมในเวิร์กสเตชันเสียงดิจิทัล
การสร้างต้นแบบแนวคิดด้านทำนองหรือจังหวะที่นักดนตรีบันทึกซ้ำอย่างเหมาะสมในเวิร์กสเตชันเสียงดิจิทัล ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ความเสี่ยงและรั้ว
การใช้เสียงในทางที่ผิดและการแอบอ้างบุคคลอื่นมีความเสี่ยงเพิ่มขึ้นเมื่อขาดความยินยอม
ความแม่นยำอาจลดลงตามสำเนียง ภาษาถิ่น หรือสภาพแวดล้อมที่มีเสียงดัง
เสียงสังเคราะห์อาจถูกเข้าใจผิดว่าเป็นเสียงพูดที่แท้จริงโดยไม่มีการกำกับที่ชัดเจน
แผนงานการดำเนินงาน
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น