คู่มือ AI แบบเห็นภาพ

ระยะเริ่มต้นFréchet

Fréchet Inception Distance (FID) เป็นตัวชี้วัดมาตรฐานสำหรับการตัดสินว่าชุดรูปภาพที่สร้างขึ้นมีความสมจริงและหลากหลายเพียงใด

ภาพรวม

Fréchet Inception Distance (FID) เป็นตัวชี้วัดมาตรฐานสำหรับการตัดสินว่าชุดรูปภาพที่สร้างขึ้นมีความสมจริงและหลากหลายเพียงใด โดยจะเปรียบเทียบสถิติของภาพจริงและภาพที่สร้างขึ้นในพื้นที่เชิงลึก คะแนนที่ต่ำกว่าหมายถึงภาพปลอมจะดูใกล้เคียงกับของจริงมากขึ้น

Fréchet Inception Distance เป็นของเวิร์กโฟลว์คอมพิวเตอร์วิทัศน์ที่ตีความหรือสร้างสื่อภาพเพื่อการวิเคราะห์ การดำเนินงาน และความคิดสร้างสรรค์

เจาะลึก

FID นำโดย Heusel และคณะ ในปี 2560 ได้แก้ไขข้อบกพร่องที่สำคัญในคะแนนเริ่มต้นก่อนหน้านี้: ไม่เคยเปรียบเทียบรูปภาพที่สร้างขึ้นกับข้อมูลจริงจริง FID ฟีดทั้งรูปภาพจริงและรูปภาพที่สร้างขึ้นผ่านเครือข่าย Inception-v3 ที่ได้รับการฝึกล่วงหน้า และอ่านเวกเตอร์คุณสมบัติ 2048 มิติจากเลเยอร์รวมลึกสำหรับแต่ละรูปภาพ จากนั้นจะจำลองคุณลักษณะแต่ละชุดเป็นแบบเกาส์เซียนหลายตัวแปร โดยสรุปโดยใช้เวกเตอร์เฉลี่ยและเมทริกซ์ความแปรปรวนร่วม ระยะห่างระหว่างเกาส์เซียนทั้งสองคำนวณด้วยระยะทางเฟรเชต์ (เรียกอีกอย่างว่าระยะทาง 2-วัสเซอร์ชไตน์) FID ที่ต่ำกว่าหมายความว่าค่าเฉลี่ยของการกระจายที่สร้างขึ้นนั้นตรงกับภาพจริงอย่างใกล้ชิด โดยจับทั้งความเที่ยงตรง (ดูเหมือนจริงหรือไม่) และความหลากหลาย (ครอบคลุมความหลากหลายของข้อมูลจริงหรือไม่)

ข้อมูลเชิงลึกทางเทคนิค

สูตร FID คือผลต่างกำลังสองของเวกเตอร์เฉลี่ยสองตัวบวกค่าติดตามของ (ผลรวมของความแปรปรวนร่วมลบสองเท่าของรากที่สองของเมทริกซ์ผลคูณของเวกเตอร์) เนื่องจากใช้ความแปรปรวนร่วมเต็มรูปแบบ FID จึงลงโทษทั้งเอาต์พุตที่พร่ามัวและไม่สมจริง และการล่มสลายของโหมดซึ่งแบบจำลองสร้างความหลากหลายน้อยเกินไป มีความไวต่อขนาดตัวอย่าง — มีรูปภาพน้อยเกินไปที่ทำให้ค่าประมาณสูงขึ้น — ดังนั้น โดยทั่วไปแล้วผู้ปฏิบัติงานจะคำนวณรูปภาพเป็นหมื่นๆ รูป ซึ่งมักจะเป็น 50,000 รูป

การเรียนรู้ระยะเริ่มต้นของFréchet

Fréchet Inception Distance (FID) เป็นตัวชี้วัดมาตรฐานสำหรับการตัดสินว่าชุดรูปภาพที่สร้างขึ้นมีความสมจริงและหลากหลายเพียงใด โดยจะเปรียบเทียบสถิติของภาพจริงและภาพที่สร้างขึ้นในพื้นที่เชิงลึก คะแนนที่ต่ำกว่าหมายถึงภาพปลอมจะดูใกล้เคียงกับของจริงมากขึ้น Fréchet Inception Distance เป็นของเวิร์กโฟลว์คอมพิวเตอร์วิทัศน์ที่ตีความหรือสร้างสื่อภาพเพื่อการวิเคราะห์ การดำเนินงาน และความคิดสร้างสรรค์ เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Fréchet Inception Distance เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ Fréchet Inception Distance จะรักษาสมดุลระหว่างความแม่นยำกับความเป็นจริงในการปฏิบัติงาน เช่น คุณภาพของข้อมูล ความแปรปรวนของแสง และความสม่ำเสมอในการติดฉลาก โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ ในขณะเดียวกัน สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง

ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก

การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของระยะเริ่มต้นของFréchet

FID ยังคงเป็นค่าเริ่มต้นของฟิลด์ แต่จุดอ่อนของมันคือแรงผลักดันทางเลือกอื่น นักวิจัยได้แสดงให้เห็นว่ามันสืบทอดความเอนเอียงของ ImageNet จาก Inception-v3 และอาจไม่เห็นด้วยกับการตัดสินใจของมนุษย์ โดยกระตุ้นให้ใช้ตัววัด เช่น FID ที่คำนวณบนคุณสมบัติ CLIP (บางครั้งเรียกว่า FDD หรือ CMMD) Kernel Inception Distance (KID) สำหรับตัวอย่างขนาดเล็ก และตัววัดความแม่นยำ/การเรียกคืนที่แยกความเที่ยงตรงออกจากความหลากหลาย คาดหวังการประเมินที่สมบูรณ์ยิ่งขึ้น ฟีเจอร์หลักที่ไม่เชื่อเรื่องพระเจ้า และสอดคล้องกันในการรับรู้ โดยเฉพาะอย่างยิ่งเมื่อการสร้างข้อความเป็นรูปภาพและวิดีโอมีมากกว่าการสรุปตัวเลขเดียว

การใช้งานจริงในโลกแห่งความเป็นจริง

การเปรียบเทียบ GAN เช่น StyleGAN โดยที่ทีมรายงาน FID บนชุดข้อมูล เช่น FFHQ เพื่อเปรียบเทียบคุณภาพการสร้างใบหน้า

ติดตามความคืบหน้าการฝึกอบรมของแบบจำลองการแพร่กระจายโดยการคำนวณ FID ที่จุดตรวจเพื่อดูว่าคุณภาพของภาพหยุดปรับปรุงเมื่อใด

การเปรียบเทียบโมเดลข้อความเป็นรูปภาพของคู่แข่งบนชุดข้อมูล COCO โดยที่ FID ที่ต่ำกว่าถูกอ้างถึงเป็นหลักฐานของผลลัพธ์ที่สมจริงยิ่งขึ้น

โหมดการตรวจจับจะล่มสลายในเครื่องกำเนิดไฟฟ้า เนื่องจากเงื่อนไขความแปรปรวนร่วมของ FID จะเพิ่มขึ้นเมื่อแบบจำลองสร้างความหลากหลายของภาพน้อยเกินไป

รูปแบบการดำเนินงาน

Fréchet Inception Distance ในทางปฏิบัติ

การเปรียบเทียบ GAN เช่น StyleGAN โดยที่ทีมรายงาน FID บนชุดข้อมูล เช่น FFHQ เพื่อเปรียบเทียบคุณภาพการสร้างใบหน้า

การเปรียบเทียบ GAN เช่น StyleGAN โดยที่ทีมรายงาน FID บนชุดข้อมูล เช่น FFHQ เพื่อเปรียบเทียบคุณภาพการสร้างใบหน้า ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

Fréchet Inception Distance ในทางปฏิบัติ

ติดตามความคืบหน้าการฝึกอบรมของแบบจำลองการแพร่กระจายโดยการคำนวณ FID ที่จุดตรวจเพื่อดูว่าคุณภาพของภาพหยุดปรับปรุงเมื่อใด

การติดตามความคืบหน้าการฝึกอบรมของแบบจำลองการแพร่กระจายโดยการคำนวณ FID ที่จุดตรวจสอบเพื่อดูว่าเมื่อใดที่คุณภาพของภาพหยุดการปรับปรุง ทีมมักจะได้รับผลลัพธ์ที่ดีขึ้นเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

Fréchet Inception Distance ในทางปฏิบัติ

การเปรียบเทียบโมเดลข้อความเป็นรูปภาพของคู่แข่งบนชุดข้อมูล COCO โดยที่ FID ที่ต่ำกว่าถูกอ้างถึงเป็นหลักฐานของผลลัพธ์ที่สมจริงยิ่งขึ้น

การเปรียบเทียบโมเดลข้อความเป็นรูปภาพที่แข่งขันกันบนชุดข้อมูล COCO โดยที่ FID ที่ต่ำกว่าถูกอ้างถึงเป็นหลักฐานของผลลัพธ์ที่สมจริงมากกว่า ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

Fréchet Inception Distance ในทางปฏิบัติ

โหมดการตรวจจับจะล่มสลายในเครื่องกำเนิดไฟฟ้า เนื่องจากเงื่อนไขความแปรปรวนร่วมของ FID จะเพิ่มขึ้นเมื่อแบบจำลองสร้างความหลากหลายของภาพน้อยเกินไป

การล่มสลายของโหมดการตรวจจับในตัวสร้าง เนื่องจากเงื่อนไขความแปรปรวนร่วมของ FID จะเพิ่มขึ้นเมื่อแบบจำลองสร้างความหลากหลายของรูปภาพน้อยเกินไป ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน

!

ประสิทธิภาพของโมเดลอาจแตกต่างกันไปตามสภาพแสง ข้อมูลประชากร และสภาพแวดล้อม

!

ผลบวกลวงอาจไม่สังเกตเห็นเว้นแต่จะมีการตรวจสอบเกณฑ์ความเชื่อมั่น

แผนงานการดำเนินงาน

1

กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด

กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง

ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง

เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล

ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป