คู่มือ AI แบบเห็นภาพ

เครือข่ายที่เหลือ

Residual Networks (ResNets) คือโครงข่ายประสาทเชิงลึกที่เพิ่ม 'ข้ามการเชื่อมต่อ' เพื่อให้เลเยอร์เรียนรู้การปรับเปลี่ยนเล็กๆ น้อยๆ แทนที่จะแปลงแบบเต็ม

ภาพรวม

Residual Networks (ResNets) คือโครงข่ายประสาทเชิงลึกที่เพิ่ม 'ข้ามการเชื่อมต่อ' เพื่อให้เลเยอร์เรียนรู้การปรับเปลี่ยนเล็กๆ น้อยๆ แทนที่จะแปลงแบบเต็ม เคล็ดลับง่ายๆ นี้ทำให้สามารถฝึกอบรมเครือข่ายหลายร้อยชั้นได้ลึก ซึ่งทำให้เกิดความแม่นยำในการจดจำภาพแบบก้าวกระโดด

Residual Networks เป็นของเวิร์กโฟลว์คอมพิวเตอร์วิทัศน์ที่ตีความหรือสร้างสื่อภาพเพื่อการวิเคราะห์ การดำเนินงาน และความคิดสร้างสรรค์

เจาะลึก

ก่อน ResNets การซ้อนกันหลายเลเยอร์ทำให้เครือข่ายทำงานได้แย่ลง แม้แต่ในข้อมูลการฝึกอบรม ปัญหาที่เรียกว่าการย่อยสลาย ในปี 2015 นักวิจัย Microsoft Kaiming He และเพื่อนร่วมงานได้แนะนำบล็อกที่เหลือ: แทนที่จะขอให้สแต็กของเลเยอร์สร้างเอาท์พุต H(x) โดยตรง พวกเขาปล่อยให้มันเรียนรู้ส่วนที่เหลือ F(x) = H(x) - x จากนั้นเพิ่มอินพุตดั้งเดิม x กลับผ่านทางลัด หากเลเยอร์นั้นไม่จำเป็น ก็สามารถเรียนรู้ที่จะไม่ทำอะไรเลย (F(x) = 0) ResNet-152 ชนะการแข่งขัน ImageNet ประจำปี 2558 โดยมีข้อผิดพลาด 5 อันดับแรกที่ประมาณ 3.6 เปอร์เซ็นต์ ซึ่งสูงกว่าการคาดการณ์ระดับมนุษย์ และสถาปัตยกรรมของกล้องก็กลายเป็นกระดูกสันหลังหลักสำหรับการตรวจจับ การแบ่งส่วน และการถ่ายภาพทางการแพทย์

ข้อมูลเชิงลึกทางเทคนิค

การเชื่อมต่อแบบข้ามจะเปลี่ยนงานของแต่ละบล็อกเป็น y = F(x) + x ในระหว่างการขยายพันธุ์กลับ การไล่ระดับสีจะไหลผ่านทางทางลัดข้อมูลประจำตัวโดยไม่มีการเปลี่ยนแปลง ดังนั้นจึงไม่สามารถหายไปจนใกล้ศูนย์ได้แม้จะข้ามหลายร้อยเลเยอร์ก็ตาม สิ่งนี้ทำให้สามารถฝึกสแต็คลึกได้ ทางลัดการระบุตัวตนไม่ได้เพิ่มพารามิเตอร์เพิ่มเติม เฉพาะเมื่อขนาดอินพุตและเอาต์พุตแตกต่างกันเท่านั้น การฉายภาพขนาดเล็ก (การบิด 1x1) จะปรับขนาดก่อนที่จะเพิ่ม

การเรียนรู้เครือข่ายที่เหลือ

Residual Networks (ResNets) คือโครงข่ายประสาทเชิงลึกที่เพิ่ม 'ข้ามการเชื่อมต่อ' เพื่อให้เลเยอร์เรียนรู้การปรับเปลี่ยนเล็กๆ น้อยๆ แทนที่จะแปลงแบบเต็ม เคล็ดลับง่ายๆ นี้ทำให้สามารถฝึกอบรมเครือข่ายหลายร้อยชั้นได้ลึก ซึ่งทำให้เกิดความแม่นยำในการจดจำภาพแบบก้าวกระโดด Residual Networks เป็นของเวิร์กโฟลว์คอมพิวเตอร์วิทัศน์ที่ตีความหรือสร้างสื่อภาพเพื่อการวิเคราะห์ การดำเนินงาน และความคิดสร้างสรรค์ หากต้องการสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Residual Networks เป็นเพียงโมเดลการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ Residual Networks จะรักษาสมดุลระหว่างความแม่นยำกับความเป็นจริงในการปฏิบัติงาน เช่น คุณภาพของข้อมูล ความแปรปรวนของแสง และความสม่ำเสมอของการติดฉลาก โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ ในขณะเดียวกัน สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ

Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง

ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก

การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของเครือข่ายที่เหลือ

การเชื่อมต่อที่เหลือตอนนี้เกือบจะเป็นสากลแล้ว: Transformers, Diffusion Models และ Large Language Models ล้วนใช้สิ่งเหล่านี้เพื่อทำให้การฝึกสแต็คที่ลึกมากมีความเสถียร การวิจัยยังคงดำเนินต่อไปเกี่ยวกับตัวแปรต่างๆ เช่น ResNets ก่อนการเปิดใช้งาน เส้นทางที่จัดกลุ่มของ ResNeXt และการรวมแนวคิดที่เหลือเข้ากับการฝึกอบรมที่ไม่ต้องทำให้เป็นมาตรฐาน คาดหวังว่าหลักการเชื่อมต่อแบบข้ามหลักจะยังคงเป็นบล็อคเริ่มต้น แม้ว่าสถาปัตยกรรมโดยรอบจะเปลี่ยนจากการโน้มน้าวใจไปสู่ความสนใจและการออกแบบแบบไฮบริดก็ตาม

การใช้งานจริงในโลกแห่งความเป็นจริง

แบ็กโบนการจัดหมวดหมู่ ImageNet (ResNet-50, ResNet-101) ที่ใช้เป็นตัวแยกคุณสมบัติที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการถ่ายโอนการเรียนรู้

การตรวจหาเนื้องอกและรอยโรคในภาพรังสีวิทยาและพยาธิวิทยาโดยใช้ตัวเข้ารหัสที่ใช้ ResNet

การตรวจจับวัตถุและเฟรมเวิร์กการแบ่งส่วนอินสแตนซ์ เช่น Faster R-CNN และ Mask R-CNN ที่ใช้แบ็คโบน ResNet

ท่อรับรู้การขับขี่ด้วยตนเองที่แยกประเภทคนเดินเท้า ยานพาหนะ และป้ายจากกรอบกล้อง

รูปแบบการดำเนินงาน

เครือข่ายที่เหลือในทางปฏิบัติ

แบ็กโบนการจัดหมวดหมู่ ImageNet (ResNet-50, ResNet-101) ที่ใช้เป็นตัวแยกคุณสมบัติที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการถ่ายโอนการเรียนรู้

แกนหลักการจัดหมวดหมู่ ImageNet (ResNet-50, ResNet-101) ที่ใช้เป็นตัวแยกคุณสมบัติที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการถ่ายโอนการเรียนรู้ ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

เครือข่ายที่เหลือในทางปฏิบัติ

การตรวจหาเนื้องอกและรอยโรคในภาพรังสีวิทยาและพยาธิวิทยาโดยใช้ตัวเข้ารหัสที่ใช้ ResNet

การตรวจหาเนื้องอกและรอยโรคในภาพรังสีวิทยาและพยาธิวิทยาโดยใช้ตัวเข้ารหัสที่ใช้ ResNet ทีมงานมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับของมนุษย์สำหรับกรณี Edge และติดตามทั้งการเพิ่มผลผลิตและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

เครือข่ายที่เหลือในทางปฏิบัติ

การตรวจจับวัตถุและเฟรมเวิร์กการแบ่งส่วนอินสแตนซ์ เช่น Faster R-CNN และ Mask R-CNN ที่ใช้แบ็คโบน ResNet

การตรวจจับออบเจ็กต์และเฟรมเวิร์กการแบ่งส่วนอินสแตนซ์ เช่น Faster R-CNN และ Mask R-CNN ที่ใช้แบ็คโบน ResNet ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

เครือข่ายที่เหลือในทางปฏิบัติ

ท่อรับรู้การขับขี่ด้วยตนเองที่แยกประเภทคนเดินเท้า ยานพาหนะ และป้ายจากกรอบกล้อง

ไปป์ไลน์การรับรู้แบบขับเคลื่อนด้วยตนเองที่แยกประเภทคนเดินเท้า ยานพาหนะ และป้ายจากเฟรมกล้อง ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการผลิตที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

!

สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน

!

ประสิทธิภาพของโมเดลอาจแตกต่างกันไปตามสภาพแสง ข้อมูลประชากร และสภาพแวดล้อม

!

ผลบวกลวงอาจไม่สังเกตเห็นเว้นแต่จะมีการตรวจสอบเกณฑ์ความเชื่อมั่น

แผนงานการดำเนินงาน

1

กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด

กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

2

ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง

ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

3

เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง

เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

4

ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล

ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป