ภาพรวม
AudioGen เป็นโมเดล Meta ที่เปลี่ยนคำอธิบายข้อความให้เป็นเสียงสิ่งแวดล้อมและเอฟเฟกต์เสียงที่สมจริง เช่น 'สุนัขเห่าในขณะที่นกร้องเจี๊ยก ๆ' สิ่งสำคัญคือเนื่องจากช่วยให้ผู้สร้างสร้างเสียงที่ไม่ใช่คำพูดจากภาษาธรรมดา ซึ่งเป็นความสามารถที่ขาดหายไปจาก genative AI มานานแล้ว
การสังเคราะห์ข้อความเป็นเสียง AudioGen ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ
เจาะลึก
AudioGen เปิดตัวโดย Meta AI ในปี 2022 เป็นรูปแบบภาษาแบบถอยหลังอัตโนมัติที่สร้างเสียงทั่วไป (เอฟเฟกต์เสียง ฉากโดยรอบ เสียงสัตว์และเสียงวัตถุ) โดยตรงจากข้อความแจ้ง ต่างจากระบบแปลงข้อความเป็นคำพูดตรงที่มุ่งเป้าไปที่โลกแห่งเสียงที่ยุ่งวุ่นวายในชีวิตประจำวัน ขั้นแรกจะบีบอัดเสียงดิบเป็นลำดับของโทเค็นแยกกันโดยใช้ตัวแปลงสัญญาณแบบนิวรอล (ตัวเข้ารหัสอัตโนมัติแบบ EnCodec พร้อมการหาปริมาณเวกเตอร์ที่เหลือ) จากนั้นโมเดลภาษา Transformer จะเรียนรู้ที่จะทำนายโทเค็นเสียงเหล่านี้ซึ่งมีเงื่อนไขตามคำอธิบายข้อความที่เข้ารหัสโดยตัวเข้ารหัสข้อความแยกต่างหาก เพื่อปรับปรุงความเข้าใจในการเรียบเรียง ผู้เขียนได้ผสมและต่อตัวอย่างเสียงระหว่างการฝึกอบรม เพื่อให้โมเดลสามารถเรียนรู้การผสมผสาน เช่น เสียงที่ทับซ้อนกัน ต่อมา AudioGen ได้กลายเป็นส่วนหนึ่งของไลบรารี AudioCraft ของ Meta ควบคู่ไปกับโมเดลเพลง MusicGen
ข้อมูลเชิงลึกทางเทคนิค
AudioGen มีสองขั้นตอน ขั้นแรก โปรแกรมเข้ารหัสเสียงอัตโนมัติเรียนรู้ที่จะแมปรูปคลื่นกับสตรีมโทเค็นแยกและด้านหลังขนาดกะทัดรัด ประการที่สอง Transformer ได้รับการฝึกฝนโดยมีวัตถุประสงค์ในการสร้างแบบจำลองภาษาเพื่อทำนายโทเค็นเสียงถัดไปที่ได้รับโทเค็นก่อนหน้าพร้อมการปรับสภาพข้อความ คำแนะนำแบบไม่มีตัวแยกประเภทและการสร้างแบบจำลอง Codebook แบบหลายสตรีมช่วยปรับปรุงความเที่ยงตรงและการจัดแนวข้อความ การสร้างเสียงหมายถึงการสุ่มตัวอย่างโทเค็นแบบถดถอยอัตโนมัติ จากนั้นถอดรหัสกลับเป็นรูปแบบคลื่นด้วยตัวแปลงสัญญาณ
การเรียนรู้การสังเคราะห์ข้อความเป็นเสียง AudioGen
AudioGen เป็นโมเดล Meta ที่เปลี่ยนคำอธิบายข้อความให้เป็นเสียงสิ่งแวดล้อมและเอฟเฟกต์เสียงที่สมจริง เช่น 'สุนัขเห่าในขณะที่นกร้องเจี๊ยก ๆ' สิ่งสำคัญคือเนื่องจากช่วยให้ผู้สร้างสร้างเสียงที่ไม่ใช่คำพูดจากภาษาธรรมดา ซึ่งเป็นความสามารถที่ขาดหายไปจาก genative AI มานานแล้ว การสังเคราะห์ข้อความเป็นเสียง AudioGen ตั้งอยู่ในเวิร์กโฟลว์เสียง-AI ที่แปลงคำพูด เพลง และเสียงเพื่อการสื่อสาร การเข้าถึง และการผลิตสื่อ เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า AudioGen Text-to-Audio Sclusion เป็นแบบจำลองการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ
ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้การสังเคราะห์ข้อความเป็นเสียง AudioGen ถือว่าคุณภาพ เวลาแฝง และความยินยอมเป็นส่วนสำคัญของกลยุทธ์การปรับใช้ โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในขณะเดียวกัน การใช้ Voice ในทางที่ผิดและการแอบอ้างบุคคลอื่นก็มีความเสี่ยงเพิ่มขึ้นเมื่อไม่ได้รับความยินยอม แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง
ผลกระทบเชิงกลยุทธ์
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง
ปรับปรุงการเข้าถึงผ่านการถอดเสียง คำบรรยาย และอินเทอร์เฟซเสียง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง
ทีมสื่อสามารถจัดส่งเสียงที่สวยงามได้รวดเร็วยิ่งขึ้นด้วยงบประมาณที่น้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น
ระบบที่ติดต่อกับลูกค้าสามารถประมวลผลการโต้ตอบด้วยเสียงในขนาดที่ใหญ่ขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ
การใช้งานจริงในโลกแห่งความเป็นจริง
การสร้างโฟลีย์และเอฟเฟกต์เสียงสำหรับภาพยนตร์และเกมจากข้อความแจ้ง
การสร้างภาพเสียงโดยรอบ (ฝน การจราจร ป่า) สำหรับแอปและเครื่องมือการทำสมาธิ
การสร้างต้นแบบเสียงสำหรับโปรเจ็กต์วิดีโอโดยไม่ต้องมีลิขสิทธิ์ไลบรารีสต็อก
สร้างเสียงเตือนและเสียงแจ้งเตือนแบบกำหนดเองที่อธิบายเป็นภาษาธรรมดา
รูปแบบการดำเนินงาน
การสังเคราะห์ข้อความเป็นเสียง AudioGen ในทางปฏิบัติ
การสร้างโฟลีย์และเอฟเฟกต์เสียงสำหรับภาพยนตร์และเกมจากข้อความแจ้ง
การสร้างโฟลีย์และเอฟเฟ็กต์เสียงสำหรับภาพยนตร์และเกมจากข้อความแจ้ง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
การสังเคราะห์ข้อความเป็นเสียง AudioGen ในทางปฏิบัติ
การสร้างภาพเสียงโดยรอบ (ฝน การจราจร ป่า) สำหรับแอปและเครื่องมือการทำสมาธิ
การสร้างภาพเสียงรอบข้าง (ฝน การจราจร ป่า) สำหรับแอปและเครื่องมือการทำสมาธิ ทีมมักจะได้รับผลลัพธ์ที่ดีขึ้นเมื่อกำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับของมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
การสังเคราะห์ข้อความเป็นเสียง AudioGen ในทางปฏิบัติ
การสร้างต้นแบบเสียงสำหรับโปรเจ็กต์วิดีโอโดยไม่ต้องมีลิขสิทธิ์ไลบรารีสต็อก
การสร้างต้นแบบเสียงสำหรับโปรเจ็กต์วิดีโอโดยไม่ต้องมีลิขสิทธิ์ไลบรารีสต็อก ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อกำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
การสังเคราะห์ข้อความเป็นเสียง AudioGen ในทางปฏิบัติ
สร้างเสียงเตือนและเสียงแจ้งเตือนแบบกำหนดเองที่อธิบายเป็นภาษาธรรมดา
การสร้างเสียงแจ้งเตือนและการแจ้งเตือนแบบกำหนดเองที่อธิบายเป็นภาษาธรรมดา ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพไว้ล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป
ความเสี่ยงและรั้ว
การใช้เสียงในทางที่ผิดและการแอบอ้างบุคคลอื่นมีความเสี่ยงเพิ่มขึ้นเมื่อขาดความยินยอม
ความแม่นยำอาจลดลงตามสำเนียง ภาษาถิ่น หรือสภาพแวดล้อมที่มีเสียงดัง
เสียงสังเคราะห์อาจถูกเข้าใจผิดว่าเป็นเสียงพูดที่แท้จริงโดยไม่มีการกำกับที่ชัดเจน
แผนงานการดำเนินงาน
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ
ได้รับความยินยอมอย่างชัดแจ้งสำหรับการจับเสียง การโคลน และการใช้ซ้ำ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย
ทดสอบคุณภาพกับลำโพงและสภาพพื้นหลังที่หลากหลาย ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์
กำหนดเวลาที่มนุษย์จะต้องตรวจสอบหรืออนุมัติผลลัพธ์ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ
ติดป้ายกำกับเสียงสังเคราะห์และเก็บบันทึกที่มาเพื่อความรับผิดชอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น