การเติบโตอย่างก้าวหน้าของ GAN
การเติบโตแบบก้าวหน้าฝึกฝน GAN โดยเริ่มต้นที่ความละเอียดเล็กๆ และค่อยๆ เพิ่มเลเยอร์เพื่อให้ได้ภาพที่มีความละเอียดสูง
ภาพรวม
It matters because it made stable, megapixel-quality GAN synthesis practical for the first time.
เจาะลึก
แนะนำโดย Karras และคณะ (NVIDIA) ในปี 2560 การเติบโตแบบก้าวหน้า (ProGAN) จัดการกับความไม่เสถียรและความล่าช้าของการฝึกอบรม GAN โดยตรงที่ความละเอียดสูง ทั้งตัวสร้างและตัวแยกแยะเริ่มต้นจากเล็กๆ ที่ขนาด 4x4 พิกเซล โดยเรียนรู้เฉพาะโครงสร้างขนาดใหญ่เท่านั้น เลเยอร์ใหม่ที่เพิ่มความละเอียดเป็นสองเท่า (8x8, 16x16, สูงสุด 1024x1024) จะถูกเพิ่มอย่างสมมาตรให้กับทั้งสองเครือข่ายตลอดหลักสูตรการฝึกอบรม สิ่งสำคัญที่สุดคือ แต่ละเลเยอร์ใหม่จะถูกจางลงอย่างราบรื่นโดยใช้การผสมผสานอัลฟ่าเชิงเส้น ดังนั้นเครือข่ายจึงไม่ตกใจกับการเปลี่ยนแปลงทางสถาปัตยกรรมอย่างกะทันหัน ด้วยการเรียนรู้คุณสมบัติคร่าวๆ ก่อนรายละเอียดเล็กๆ น้อยๆ การฝึกจะมีเสถียรภาพมากขึ้น บรรจบกันเร็วขึ้น และสร้างใบหน้าที่มีความเที่ยงตรงสูงที่ทำให้ผลลัพธ์ของ CelebA-HQ โด่งดัง บทความนี้ยังแนะนำค่าเบี่ยงเบนมาตรฐานแบบมินิแบทช์และอัตราการเรียนรู้ที่เท่ากันเพื่อทำให้การฝึกอบรมมีความเสถียรยิ่งขึ้น
ข้อมูลเชิงลึกทางเทคนิค
การเฟดอินเป็นเคล็ดลับสำคัญ เมื่อมีการเพิ่มบล็อกที่มีความละเอียดสูงกว่า เอาต์พุตของบล็อกจะผสมกับเวอร์ชันอัปแซมเพิลของความละเอียดก่อนหน้าโดยใช้อัลฟ่าน้ำหนักที่ลาดจาก 0 ถึง 1 ซึ่งช่วยให้น้ำหนักของเลเยอร์ใหม่อุ่นขึ้นทีละน้อย แทนที่จะรบกวนสิ่งที่เครือข่ายเรียนรู้ไปแล้ว กระบวนการสมมาตรเกิดขึ้นในตัวแบ่งแยก ค่าเบี่ยงเบนมาตรฐานของมินิแบทช์จะผนวกคุณลักษณะที่สรุปความแปรผันของแบทช์ ซึ่งทำให้เครื่องกำเนิดไฟฟ้าไม่ยุบตัวไปจนถึงเอาต์พุตที่จำกัด
ผลกระทบเชิงกลยุทธ์
ความเร็วและขนาด
Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ
สร้างทางเลือก
ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง
ทีมงานและขั้นตอนการทำงาน
การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก
อนาคตของการเติบโตแบบก้าวหน้าของ GAN
การเติบโตแบบก้าวหน้าเป็นรากฐานของ StyleGAN ที่สร้างขึ้น แต่ StyleGAN2 แสดงให้เห็นในภายหลังว่าสถาปัตยกรรมแบบตายตัวที่มีการเชื่อมต่อแบบข้ามและบล็อกที่เหลือสามารถจับคู่คุณภาพได้โดยไม่ต้องมีกำหนดเวลา ดังนั้นการเติบโตอย่างชัดเจนจึงไม่ได้รับความนิยม มรดกที่ล้ำลึกยังคงมีอยู่: การสร้างแบบหยาบจนถึงแบบละเอียดจะปรากฏขึ้นในการแพร่กระจายแบบหลายสเกล ไปป์ไลน์ที่มีความละเอียดสูงแบบเรียงซ้อน และเครื่องอัปสเกลเลอร์พื้นที่แฝง การทำความเข้าใจการเติบโตแบบก้าวหน้ายังคงมีคุณค่าสำหรับการเข้าใจว่าทำไมการเรียนรู้แบบลำดับชั้นและความถี่ต่ำถึงสูงจึงทำให้การฝึกอบรมเชิงกำเนิดมีความเสถียร
การใช้งานจริงในโลกแห่งความเป็นจริง
การสร้างภาพใบหน้า CelebA-HQ ความละเอียดสูงที่สาธิตการสังเคราะห์ GAN ขนาด 1024x1024
การสร้างตัวอย่างคุณภาพสูงของโดเมนอื่นๆ เช่น ห้องนอน (LSUN) และวัตถุในวงกว้าง
ทำหน้าที่เป็นจุดเริ่มต้นทางสถาปัตยกรรมที่ StyleGAN ขยายออกไปเพื่อการสร้างใบหน้าที่ควบคุมได้
การสอนหลักการฝึกอบรมแบบหยาบถึงละเอียดที่นำกลับมาใช้ใหม่ในท่อส่งก๊าซแบบเรียงซ้อนและแบบหลายขนาด
ความเสี่ยงและรั้ว
สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน
ประสิทธิภาพของโมเดลอาจแตกต่างกันไปตามสภาพแสง ข้อมูลประชากร และสภาพแวดล้อม
ผลบวกลวงอาจไม่สังเกตเห็นเว้นแต่จะมีการตรวจสอบเกณฑ์ความเชื่อมั่น
แผนงานการดำเนินงาน
กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด
ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง
เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง
ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Progressive Growing of GANs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
GAN แบบมีเงื่อนไข
คำถามที่พบบ่อย
What is Progressive Growing of GANs?
การเติบโตแบบก้าวหน้าฝึกฝน GAN โดยเริ่มต้นที่ความละเอียดเล็กๆ และค่อยๆ เพิ่มเลเยอร์เพื่อให้ได้ภาพที่มีความละเอียดสูง สิ่งสำคัญเนื่องจากทำให้การสังเคราะห์ GAN คุณภาพล้านพิกเซลมีความเสถียรและใช้งานได้จริงเป็นครั้งแรก
GAN ที่เติบโตอย่างต่อเนื่องจะเริ่มการฝึกอบรมได้อย่างไร?
การฝึกอบรมเริ่มต้นที่ 4x4 โดยที่เครือข่ายจะเรียนรู้โครงสร้างคร่าวๆ ก่อนที่จะเพิ่มเลเยอร์ที่มีความละเอียดสูงกว่า
ประโยชน์หลักๆ ของการเพิ่มความละเอียดอย่างค่อยเป็นค่อยไปคืออะไร?
การเรียนรู้ฟีเจอร์หยาบขั้นแรกจะทำให้การฝึกมีความเสถียรและเร่งความเร็วในการบรรจบกัน เมื่อเทียบกับการโจมตีแบบเต็มความละเอียดตั้งแต่เริ่มต้น
เมื่อมีการเพิ่มเลเยอร์ที่มีความละเอียดสูงกว่าใหม่ จะมีการนำมาใช้อย่างไร
เฟดอินเชิงเส้นจะผสมผสานเอาท์พุตของเลเยอร์ใหม่เข้ากับเอาท์พุตความละเอียดต่ำที่อัปแซมเพิล เพื่อให้เครือข่ายค่อยๆ ปรับ
เหตุใดจึงมีการเพิ่มเลเยอร์ให้กับทั้งตัวสร้างและตัวแบ่งแยก
เครือข่ายทั้งสองเติบโตควบคู่กันไป ดังนั้นผู้แยกแยะจึงสามารถประเมินภาพที่ความละเอียดปัจจุบันของเครื่องกำเนิดได้
จุดประสงค์ของเลเยอร์ส่วนเบี่ยงเบนมาตรฐานแบบมินิแบทช์ที่นำมาใช้ใน ProGAN คืออะไร
โดยจะผนวกสถิติเกี่ยวกับความแปรผันของแบทช์ กระตุ้นให้เครื่องกำเนิดไฟฟ้าสร้างเอาต์พุตที่หลากหลาย แทนที่จะพังทลายลง