ภาพรวม
VALL-E ปรับกรอบข้อความเป็นคำพูดใหม่เป็นปัญหาการสร้างแบบจำลองภาษาผ่านโทเค็นตัวแปลงสัญญาณเสียง ทำให้สามารถโคลนเสียงจากตัวอย่างเพียงสามวินาที มันแสดงให้เห็นว่า LLM ข้อความที่ขับเคลื่อนการทำนายโทเค็นถัดไปเดียวกันสามารถสร้างคำพูดที่เป็นธรรมชาติและแสดงออกอย่างน่าทึ่ง
โมเดลภาษา VALL-E และ Codec อยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ
เจาะลึก
ประกาศโดย Microsoft ในต้นปี 2023 VALL-E ปฏิบัติต่อการสังเคราะห์คำพูดเหมือนกับการสร้างแบบจำลองภาษา แทนที่จะทำนายสเปกโตรแกรม ระบบจะทำนายโทเค็นอะคูสติกแบบแยกของตัวแปลงสัญญาณประสาท (EnCodec) ดังนั้นรุ่นจึงกลายเป็นการทำนายโทเค็นถัดไปเหนือคำศัพท์เสียง เมื่อบันทึกเสียงของผู้พูดที่มองไม่เห็นพร้อมข้อความเป้าหมายเป็นเวลา 3 วินาที VALL-E จะยังคงอยู่ในเสียงของผู้พูดนั้นต่อไป โดยรักษาเสียงต่ำและแม้แต่สภาพแวดล้อมทางเสียง ได้รับการฝึกฝนเกี่ยวกับคำพูดประมาณ 60,000 ชั่วโมง ซึ่งมากกว่าชุดข้อมูล TTS ทั่วไปอย่างมาก ซึ่งทำให้มีการโคลนแบบ Zero-Shot ที่แข็งแกร่ง เนื่องจากโทเค็นของตัวแปลงสัญญาณเป็นแบบเลเยอร์ (ผ่าน RVQ) VALL-E จึงใช้สองขั้นตอน: โมเดลแบบ autoregressive จะทำนายสตรีมโทเค็นแบบหยาบตัวแรกที่มีเงื่อนไขตามพร้อมท์ และโมเดลที่ไม่แบบ autoregressive จะเติมโทเค็นรายละเอียดที่เหลือ สูตรโคเดก-LM นี้สร้างแรงบันดาลใจให้กับผู้สืบทอดเช่น VALL-E 2 และโมเดลพื้นฐานคำพูดมากมาย
ข้อมูลเชิงลึกทางเทคนิค
เคล็ดลับคือการถอดรหัสแบบไฮบริดเหนือโทเค็นตัวแปลงสัญญาณแบบลำดับชั้น ระยะ autoregressive จะทำนายโทเค็น codebook แรกที่สำคัญที่สุดทีละรายการ โดยจับฉันทลักษณ์และเนื้อหา หนังสือรหัสที่เหลือซึ่งเพิ่มรายละเอียดเสียงที่ดี จะถูกคาดการณ์แบบคู่ขนานโดยโมเดลที่ไม่ถอยอัตโนมัติซึ่งมีเงื่อนไขในสตรีมแรกและพรอมต์ของผู้บรรยาย การแยกนี้ช่วยรักษาคุณภาพให้อยู่ในระดับสูงในขณะเดียวกันก็หลีกเลี่ยงต้นทุนในการสร้างโทเค็นทุกอันตามลำดับ และการใช้ตัวแปลงสัญญาณหมายความว่าสามารถสร้างแบบจำลองเสียงพูดและข้อความได้ด้วยกลไกของหม้อแปลงตัวเดียวกัน
การเรียนรู้โมเดลภาษา VALL-E และ Codec
VALL-E ปรับกรอบข้อความเป็นคำพูดใหม่เป็นปัญหาการสร้างแบบจำลองภาษาผ่านโทเค็นตัวแปลงสัญญาณเสียง ทำให้สามารถโคลนเสียงจากตัวอย่างเพียงสามวินาที มันแสดงให้เห็นว่า LLM ข้อความที่ขับเคลื่อนการทำนายโทเค็นถัดไปเดียวกันสามารถสร้างคำพูดที่เป็นธรรมชาติและแสดงออกอย่างน่าทึ่ง โมเดลภาษา VALL-E และ Codec อยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า VALL-E และ Codec Language Models เป็นแบบจำลองการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ
ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้โมเดลภาษา VALL-E และ Codec ถือว่าคุณภาพ เวลาแฝง และความยินยอมเป็นส่วนสำคัญของกลยุทธ์การปรับใช้ โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในขณะเดียวกัน การใช้ Voice ในทางที่ผิดและการแอบอ้างบุคคลอื่นก็มีความเสี่ยงเพิ่มขึ้นเมื่อไม่ได้รับความยินยอม แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง
ผลกระทบเชิงกลยุทธ์
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
การใช้งานจริงในโลกแห่งความเป็นจริง
การโคลนเสียงจากเสียงไม่กี่วินาทีสำหรับผู้ช่วยส่วนตัวหรือเครื่องมือช่วยการเข้าถึงที่ฟื้นฟูเสียงที่หายไป
การแปลและพากย์วิดีโอเป็นภาษาอื่นโดยยังคงรักษาเสียงของผู้พูดต้นฉบับ
การสร้างคำบรรยายที่แสดงออกและตรงกับบริบทซึ่งจะรักษาสภาพแวดล้อมทางเสียงของการบันทึกเสียง
ทำหน้าที่เป็นแกนหลักในการพูดในผู้ช่วยหลายรูปแบบที่ทั้งเข้าใจและสร้างเสียงพูด
รูปแบบการดำเนินงาน
แบบจำลองภาษา VALL-E และ Codec ในทางปฏิบัติ
การโคลนเสียงจากเสียงไม่กี่วินาทีสำหรับผู้ช่วยส่วนตัวหรือเครื่องมือช่วยการเข้าถึงที่ฟื้นฟูเสียงที่หายไป
การโคลนเสียงจากเสียงไม่กี่วินาทีสำหรับผู้ช่วยส่วนตัวหรือเครื่องมือช่วยสำหรับการเข้าถึงที่กู้คืนเสียงที่หายไป ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
แบบจำลองภาษา VALL-E และ Codec ในทางปฏิบัติ
การแปลและพากย์วิดีโอเป็นภาษาอื่นโดยยังคงรักษาเสียงของผู้พูดต้นฉบับ
การแปลและการพากย์วิดีโอเป็นภาษาอื่นๆ ขณะเดียวกันก็รักษาเสียงของผู้พูดดั้งเดิม ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
แบบจำลองภาษา VALL-E และ Codec ในทางปฏิบัติ
การสร้างคำบรรยายที่แสดงออกและตรงกับบริบทซึ่งจะรักษาสภาพแวดล้อมทางเสียงของการบันทึกเสียง
การสร้างคำบรรยายที่แสดงออกและตรงกับบริบทที่รักษาสภาพแวดล้อมทางเสียงของการบันทึกเสียง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
แบบจำลองภาษา VALL-E และ Codec ในทางปฏิบัติ
ทำหน้าที่เป็นแกนหลักในการพูดในผู้ช่วยหลายรูปแบบที่ทั้งเข้าใจและสร้างเสียงพูด
การทำหน้าที่เป็นแกนหลักในการพูดในผู้ช่วยหลายรูปแบบที่ทั้งเข้าใจและสร้างเสียงพูด ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ความเสี่ยงและรั้ว
การใช้เสียงในทางที่ผิดและการแอบอ้างบุคคลอื่นมีความเสี่ยงเพิ่มขึ้นเมื่อขาดความยินยอม
ความแม่นยำอาจลดลงตามสำเนียง ภาษาถิ่น หรือสภาพแวดล้อมที่มีเสียงดัง
เสียงสังเคราะห์อาจถูกเข้าใจผิดว่าเป็นเสียงพูดที่แท้จริงโดยไม่มีการกำกับที่ชัดเจน
แผนงานการดำเนินงาน
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น