ภาพรวม
MusicLM คือโมเดลการแปลงข้อความเป็นเพลงของ Google ที่สร้างเสียงที่ต่อเนื่องหลายนาทีจากคำอธิบายเช่น 'ทำนองไวโอลินที่สงบโดยมีริฟฟ์กีตาร์ที่บิดเบี้ยว' สิ่งสำคัญคือเนื่องจากสามารถแก้ไขโครงสร้างดนตรีระยะไกลโดยการซ้อนโมเดลในลำดับชั้น โดยปฏิบัติต่อการสร้างดนตรีเหมือนกับการสร้างแบบจำลองภาษาบนโทเค็นเสียง
MusicLM Hierarchical Music Generation ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด ดนตรี และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ
เจาะลึก
ประกาศโดย Google การวิจัยเมื่อต้นปี 2023 MusicLM วางกรอบการสร้างเพลงเป็นการทำนายลำดับของโทเค็นเสียงที่แยกจากกัน เหมือนกับที่โมเดลภาษาทำนายคำศัพท์ โดยจะใช้ลำดับชั้นของการเป็นตัวแทน: โทเค็นความหมาย (จากโมเดลที่เรียกว่า w2v-BERT) จับโครงสร้างระดับสูง เช่น เมโลดี้และจังหวะในช่วงระยะยาว ในขณะที่โทเค็นอะคูสติก (จากตัวแปลงสัญญาณประสาท SoundStream) จับรายละเอียดเล็กๆ น้อยๆ เช่น เสียงร้องและพื้นผิว ขั้นแรกจะสร้างโทเค็นความหมายจากข้อความพร้อมท์ จากนั้นขั้นตอนต่อมาจะเติมรายละเอียดเสียงที่มีเงื่อนไขตามความหมายเหล่านั้น การปรับสภาพข้อความมาจาก MuLM/MuLan ซึ่งเป็นการฝังข้อความเพลงร่วมที่ได้รับการฝึกเพื่อให้คำอธิบายและเสียงอยู่ในพื้นที่เดียวกัน วิธีการแบบเป็นฉากนี้ช่วยให้ MusicLM คงความสอดคล้องทางดนตรีไว้เป็นเวลาไม่กี่นาที แทนที่จะลอยไปในเวลาไม่กี่วินาที
ข้อมูลเชิงลึกทางเทคนิค
แนวคิดหลักคือการแยกโครงสร้างออกจากพื้นผิวข้ามลำดับชั้นโทเค็น โทเค็นความหมายแบบหยาบนั้นกระจัดกระจายและเปลี่ยนแปลงช้า ดังนั้น Transformer สามารถสร้างแบบจำลองรูปแบบระยะยาวโดยไม่ต้องมีลำดับที่ยาวมาก โทเค็นเสียงมีความหนาแน่นและมีอัตราสูง แต่เพียงต้องคาดการณ์เงื่อนไขตามซีแมนทิกส์ที่กำหนดไว้แล้ว ซึ่งจะทำให้แต่ละขั้นตอนสามารถเข้าใจได้ การหาปริมาณเวกเตอร์ตกค้างของ SoundStream จะสร้างโค้ดอะคูสติกแบบเป็นชั้นๆ ซึ่งตัวถอดรหัสสุดท้ายจะเปลี่ยนกลับเป็นรูปแบบคลื่น 24 kHz
การเรียนรู้ดนตรีการสร้างดนตรีแบบลำดับชั้นLM
MusicLM คือโมเดลการแปลงข้อความเป็นเพลงของ Google ที่สร้างเสียงที่ต่อเนื่องหลายนาทีจากคำอธิบายเช่น 'ทำนองไวโอลินที่สงบโดยมีริฟฟ์กีตาร์ที่บิดเบี้ยว' สิ่งสำคัญคือเนื่องจากสามารถแก้ไขโครงสร้างดนตรีระยะไกลโดยการซ้อนโมเดลในลำดับชั้น โดยปฏิบัติต่อการสร้างดนตรีเหมือนกับการสร้างแบบจำลองภาษาบนโทเค็นเสียง MusicLM Hierarchical Music Generation ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด ดนตรี และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า MusicLM Hierarchical Music Generation เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ
ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ MusicLM Hierarchical Music Generation จะถือว่าคุณภาพ เวลาแฝง และความยินยอมเป็นส่วนสำคัญของกลยุทธ์การปรับใช้ โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในขณะเดียวกัน การใช้ Voice ในทางที่ผิดและการแอบอ้างบุคคลอื่นก็มีความเสี่ยงเพิ่มขึ้นเมื่อไม่ได้รับความยินยอม แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง
ผลกระทบเชิงกลยุทธ์
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
การใช้งานจริงในโลกแห่งความเป็นจริง
เปลี่ยนคำอธิบายฉากที่เป็นลายลักษณ์อักษรให้เป็นเพลงประกอบภาพยนตร์หรือตัวอย่าง เช่น 'มหากาพย์ออเคสตราสร้างพร้อมคณะนักร้องประสานเสียง'
การสร้างเพลงประกอบตามคำบรรยายภาพ หรือแม้แต่คำอธิบายการวาดภาพสำหรับงานศิลปะจัดวาง
การขยายทำนองฮัมเพลงสั้นหรือเสียงหวีดหวิวให้เป็นการเรียบเรียงเครื่องดนตรีเต็มรูปแบบ
ผลิตเพลงสต็อกที่หลากหลายในจังหวะและอารมณ์ที่แตกต่างกันสำหรับการโฆษณาและผู้สร้างเนื้อหา
รูปแบบการดำเนินงาน
MusicLM การสร้างดนตรีแบบลำดับชั้นในทางปฏิบัติ
เปลี่ยนคำอธิบายฉากที่เป็นลายลักษณ์อักษรให้เป็นเพลงประกอบภาพยนตร์หรือตัวอย่าง เช่น 'มหากาพย์ออเคสตราสร้างด้วยคณะนักร้องประสานเสียง'
เปลี่ยนคำอธิบายฉากที่เป็นลายลักษณ์อักษรให้เป็นเพลงประกอบภาพยนตร์หรือตัวอย่าง เช่น 'งานสร้างวงดนตรีที่ยิ่งใหญ่ด้วยคณะนักร้องประสานเสียง' ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
MusicLM การสร้างดนตรีแบบลำดับชั้นในทางปฏิบัติ
การสร้างเพลงประกอบตามคำบรรยายภาพ หรือแม้แต่คำอธิบายการวาดภาพสำหรับงานศิลปะจัดวาง
การสร้างเพลงประกอบที่มีเงื่อนไขตามคำบรรยายภาพ หรือแม้แต่คำอธิบายการวาดภาพสำหรับงานศิลปะจัดวาง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
MusicLM การสร้างดนตรีแบบลำดับชั้นในทางปฏิบัติ
การขยายทำนองฮัมเพลงสั้นหรือเสียงหวีดหวิวให้เป็นการเรียบเรียงเครื่องดนตรีเต็มรูปแบบ
การขยายท่วงทำนองฮัมเพลงสั้นหรือเสียงหวีดหวิวไปสู่การเรียบเรียงที่มีเครื่องดนตรีครบครัน ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
MusicLM การสร้างดนตรีแบบลำดับชั้นในทางปฏิบัติ
การผลิตแทร็กเพลงสต็อกที่หลากหลายในจังหวะและอารมณ์ที่แตกต่างกันสำหรับการโฆษณาและผู้สร้างเนื้อหา
การผลิตแทร็กเพลงสต็อกที่หลากหลายในจังหวะและอารมณ์ที่แตกต่างกันสำหรับการโฆษณาและผู้สร้างเนื้อหา ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ความเสี่ยงและรั้ว
การใช้เสียงในทางที่ผิดและการแอบอ้างบุคคลอื่นมีความเสี่ยงเพิ่มขึ้นเมื่อขาดความยินยอม
ความแม่นยำอาจลดลงตามสำเนียง ภาษาถิ่น หรือสภาพแวดล้อมที่มีเสียงดัง
เสียงสังเคราะห์อาจถูกเข้าใจผิดว่าเป็นเสียงพูดที่แท้จริงโดยไม่มีการกำกับที่ชัดเจน
แผนงานการดำเนินงาน
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น