คู่มือพื้นฐาน

การทำให้เป็นมาตรฐานของกลุ่ม

ภาพรวม

การทำให้เป็นมาตรฐานของกลุ่มอยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น

เจาะลึก

เลเยอร์การทำให้เป็นมาตรฐานจะรักษาตัวเลขที่ไหลผ่านเครือข่ายที่มีขนาดที่ดี ซึ่งจะช่วยเร่งความเร็วและทำให้การฝึกอบรมมีความเสถียร การทำให้เป็นมาตรฐานแบบแบทช์ทำได้โดยการคำนวณค่าเฉลี่ยและความแปรปรวนของแต่ละคุณลักษณะในมินิแบทช์ทั้งหมด แต่นั่นจะทำให้เปราะบางเมื่อแบทช์มีขนาดเล็ก เนื่องจากสถิติจะมีสัญญาณรบกวนและไม่น่าเชื่อถือ การทำให้เป็นมาตรฐานของกลุ่มซึ่งแนะนำโดย Wu และ He ในปี 2018 จะลบแบทช์ออกจากสมการทั้งหมด สำหรับแต่ละตัวอย่าง จะแบ่งช่องออกเป็นกลุ่มตามจำนวนที่กำหนด จากนั้นทำให้แต่ละกลุ่มเป็นมาตรฐานโดยใช้เฉพาะค่าของตัวอย่างนั้นเท่านั้น เนื่องจากการคำนวณไม่เคยขึ้นอยู่กับตัวอย่างอื่นๆ ในชุด ประสิทธิภาพจึงคงที่ไม่ว่าชุดนั้นจะเก็บภาพได้ 32 ภาพหรือเพียงภาพเดียว ทำให้เป็นที่นิยมในการตรวจจับ การแบ่งส่วน และงานการมองเห็นที่ต้องใช้หน่วยความจำมาก

ข้อมูลเชิงลึกทางเทคนิค

Group Norm คำนวณค่าเฉลี่ยและความแปรปรวนเหนือมิติเชิงพื้นที่และช่องสัญญาณภายในแต่ละกลุ่มต่อตัวอย่าง จากนั้นจะปรับให้เป็นค่าเฉลี่ยเป็นศูนย์และความแปรปรวนของหน่วย และใช้สเกลต่อช่องสัญญาณที่เรียนรู้ (แกมมา) และการเปลี่ยนแปลง (เบต้า) โดยสรุปโครงร่างอื่นๆ โดยกลุ่มหนึ่งจะกลายเป็น Layer Normalization และหนึ่งช่องสัญญาณต่อกลุ่มจะกลายเป็น Instance Normalization จำนวนกลุ่มคือไฮเปอร์พารามิเตอร์ ซึ่งมักตั้งค่าเป็น 32

การทำให้เป็นมาตรฐานของกลุ่มการเรียนรู้

การทำให้เป็นมาตรฐานแบบกลุ่มเป็นเทคนิคที่ทำให้การฝึกโครงข่ายประสาทเทียมมีความเสถียรโดยการปรับคุณสมบัติให้เป็นปกติภายในกลุ่มช่องสัญญาณขนาดเล็ก โดยแยกจากกันสำหรับแต่ละตัวอย่าง เป็นเรื่องสำคัญเนื่องจากไม่เหมือนกับ Batch Normalization ตรงที่ทำงานได้ดีแม้ในขณะที่แบตช์มีขนาดเล็กก็ตาม การทำให้เป็นมาตรฐานของกลุ่มอยู่ในชุดเครื่องมือ AI หลัก เมื่อคุณเข้าใจ หัวข้อ AI อื่นๆ จะประเมินและเปรียบเทียบได้ง่ายขึ้น เพื่อสร้างความเข้าใจอย่างลึกซึ้ง ให้ถือว่า Group Normalization เป็นรูปแบบการดำเนินงาน ไม่ใช่คุณลักษณะเดียว: กำหนดผลลัพธ์ที่ต้องการ ชี้แจงสมมติฐาน และแยกสิ่งที่ระบบสามารถทำได้อย่างน่าเชื่อถือจากสิ่งที่ยังต้องใช้วิจารณญาณจากผู้เชี่ยวชาญ

ในทางปฏิบัติ ทีมที่แข็งแกร่งที่ใช้ Group Normalization จะสร้างโมเดลเชิงแนวคิดที่แข็งแกร่งก่อน จากนั้นจึงจับคู่โมเดลเหล่านั้นกับข้อจำกัดในการผลิตจริง โดยจะบันทึกเกณฑ์ความสำเร็จที่ชัดเจน ทดสอบกับข้อมูลและขั้นตอนการทำงานที่สมจริง และทำซ้ำตามรูปแบบความล้มเหลวที่สังเกตได้ แทนที่จะชนะการวัดประสิทธิภาพเพียงครั้งเดียว นี่คือจุดที่ความเข้าใจทางทฤษฎีกลายเป็นความสามารถที่คงทนของผลิตภัณฑ์ นโยบาย และการดำเนินงาน

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในเวลาเดียวกัน ทีมต่างๆ อาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ แนวทางที่ยืดหยุ่นที่สุดคือการรวมความเร็วของการทดลองเข้ากับวินัยในการกำกับดูแล: ดำเนินการนำร่อง จับหลักฐาน เผยแพร่บันทึกการตัดสินใจ และอัปเดตการป้องกันอย่างต่อเนื่องเมื่อพฤติกรรมของโมเดล ความคาดหวังของผู้ใช้ และข้อกำหนดด้านกฎระเบียบมีการเปลี่ยนแปลง

ผลกระทบเชิงกลยุทธ์

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้

ช่วยให้คุณแยกคำกล่าวอ้างทางเทคนิคที่ชัดเจนออกจากภาษาทางการตลาดได้ ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา

คุณสามารถถามคำถามการใช้งานที่ดีขึ้นก่อนที่จะใช้เงินหรือเวลา ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น

ทีมที่มีความเข้าใจร่วมกันจะตัดสินใจเกี่ยวกับผลิตภัณฑ์ นโยบาย และการเรียนรู้ได้ดีขึ้น ในการปรับใช้คุณภาพสูง สิ่งนี้จะถูกแปลเป็นกฎการปฏิบัติงานที่วัดผลได้ ขอบเขตความเป็นเจ้าของ และขั้นตอนการตรวจสอบที่เกิดซ้ำ เพื่อให้ทีมสามารถปรับขนาดความมั่นใจแทนที่จะปรับขนาดความคลุมเครือ

อนาคตของการทำให้กลุ่มเป็นมาตรฐาน

การทำให้เป็นมาตรฐานแบบกลุ่มยังคงเป็นตัวเลือกที่เลือกใช้ในทุกที่ที่แบทช์ต้องมีขนาดเล็ก เช่น การตรวจจับและการแบ่งส่วนความละเอียดสูง โมเดล 3 มิติและวิดีโอ และการฝึกอบรมที่จำกัดหน่วยความจำ มันยังฝังอยู่ในสถาปัตยกรรมกำเนิดที่ใช้กันอย่างแพร่หลาย เช่น U-Nets ภายในโมเดลการแพร่กระจาย เมื่อโมเดลเติบโตขึ้นและความกดดันของหน่วยความจำทำให้ขนาดแบตช์ลดลง ตัวนอร์มัลไลเซอร์ที่ไม่ขึ้นกับแบตช์ ซึ่งได้แก่ Group Norm ควบคู่ไปกับ Layer Norm มีแนวโน้มที่จะยังคงเป็นบล็อคเริ่มต้น โดยมีการวิจัยอย่างต่อเนื่องเกี่ยวกับไฮบริดและทางเลือกอื่นที่ปราศจากการทำให้เป็นมาตรฐาน

การใช้งานจริงในโลกแห่งความเป็นจริง

การตรวจจับออบเจ็กต์และการแบ่งส่วนอินสแตนซ์ (เช่น โมเดลสไตล์ Mask R-CNN) ที่ได้รับการฝึกด้วยแบตช์ต่อ GPU ที่น้อยมาก

แกนหลัก U-Net ภายในเครื่องกำเนิดภาพแบบกระจาย โดยที่ Group Norm จะรักษาระดับฟีเจอร์ให้คงที่

เครือข่าย 3 มิติและวิดีโอที่ใช้หน่วยความจำสูงบังคับให้ขนาดแบตช์ลดลงเหลือหนึ่งหรือสองขนาด

การปรับแต่งโมเดลวิชันซิสเต็มขนาดใหญ่บนฮาร์ดแวร์ที่มีข้อจำกัด โดยที่แบทช์ขนาดเล็กทำให้สถิติ Batch Norm ไม่น่าเชื่อถือ

รูปแบบการดำเนินงาน

การทำให้เป็นมาตรฐานของกลุ่มในทางปฏิบัติ

การตรวจจับออบเจ็กต์และการแบ่งส่วนอินสแตนซ์ (เช่น โมเดลสไตล์ Mask R-CNN) ที่ได้รับการฝึกด้วยชุดงานต่อ GPU ที่น้อยมาก ทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การทำให้เป็นมาตรฐานของกลุ่มในทางปฏิบัติ

แกนหลัก U-Net ภายในตัวสร้างภาพการแพร่กระจาย โดยที่ Group Norm ปรับมาตราส่วนฟีเจอร์ให้เสถียร โดยปกติแล้วทีมจะได้รับผลลัพธ์ที่ดีกว่าเมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การทำให้เป็นมาตรฐานของกลุ่มในทางปฏิบัติ

เครือข่าย 3 มิติและวิดีโอที่ใช้หน่วยความจำสูงบังคับให้ลดขนาดแบทช์เหลือหนึ่งหรือสองทีมมักจะได้รับผลลัพธ์ที่ดีกว่าเมื่อกำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

การทำให้เป็นมาตรฐานของกลุ่มในทางปฏิบัติ

การปรับแต่งโมเดลวิชันซิสเต็มขนาดใหญ่บนฮาร์ดแวร์ที่มีข้อจำกัด โดยที่แบทช์ขนาดเล็กทำให้สถิติ Batch Norm ไม่น่าเชื่อถือ โดยปกติแล้วทีมจะได้ผลลัพธ์ที่ดีกว่า เมื่อพวกเขากำหนดเกณฑ์คุณภาพล่วงหน้า รักษาเส้นทางการยกระดับโดยมนุษย์สำหรับกรณี Edge และติดตามทั้งประสิทธิภาพการทำงานที่เพิ่มขึ้นและต้นทุนข้อผิดพลาดเมื่อเวลาผ่านไป

ความเสี่ยงและรั้ว

แต่ละทีมอาจใช้คำเดียวกันต่างกัน ดังนั้นควรกำหนดขอบเขตตั้งแต่เนิ่นๆ

เกณฑ์มาตรฐานอาจดูแข็งแกร่งในขณะที่ประสิทธิภาพในโลกแห่งความเป็นจริงไม่เท่ากัน

การเพิกเฉยต่อคุณภาพข้อมูลและแผนการประเมินมักสร้างผลลัพธ์ที่เปราะบาง

แผนงานการดำเนินงาน

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ

เริ่มต้นด้วยคำจำกัดความภาษาธรรมดาของผลลัพธ์ที่คุณต้องการ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ

เลือกเมตริกวัดความสำเร็จหนึ่งรายการและเงื่อนไขความล้มเหลวหนึ่งรายการก่อนการทดสอบ ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม

ดำเนินการนำร่องขนาดเล็กด้วยข้อมูลตัวแทน ไม่ใช่ชุดสาธิตที่สวยงาม ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

เอกสารที่ Group Normalization ช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า

เอกสารที่ Group Normalization ช่วยได้ และวิธีที่ง่ายกว่าจะดีกว่า ถือว่าแต่ละขั้นตอนเป็นเหมือนประตูหลักฐาน: หากไม่ตรงตามเกณฑ์ ให้หยุดการเปิดตัวชั่วคราว ปิดช่องว่าง จากนั้นจึงขยายการใช้งานเท่านั้น

สำรวจต่อไป

เอไอคืออะไร?

รับแนวคิดที่สำคัญก่อนดำน้ำลึก

อ่านคู่มือ

AI เรียนรู้อย่างไร

เข้าใจกระบวนการฝึกอบรมเบื้องหลังระบบที่ทันสมัย

อ่านคู่มือ