คู่มือทางเทคนิค

การลงทะเบียนโมเดล

การลงทะเบียนโมเดลคือแค็ตตาล็อกที่ควบคุมเวอร์ชันสำหรับโมเดล Machine Learning ที่ได้รับการฝึกอบรม ซึ่งจะติดตามลำดับวงศ์ตระกูล ตัววัด และขั้นตอนการปรับใช้ของแต่ละเวอร์ชัน

อ่าน 2 นาทีอัปเดตล่าสุด

ภาพรวม

It acts as the single source of truth between experimentation and production, so teams know exactly which model is live, how it was built, and how to roll back.

เจาะลึก

การฝึกอบรมทำให้เกิดโมเดลหลายเวอร์ชัน และหากไม่มีรีจิสทรี โมเดลจะกระจัดกระจายเป็นไฟล์ชื่อ 'model_final_v3_really.pkl' โดยไม่มีบันทึกว่าถูกสร้างขึ้นมาอย่างไร การลงทะเบียนโมเดลจะแก้ไขปัญหานี้ด้วยการจัดเก็บแต่ละเวอร์ชันควบคู่ไปกับเมทาดาทา: ชุดข้อมูลการฝึกอบรม การคอมมิตโค้ด ไฮเปอร์พารามิเตอร์ และตัวชี้วัดการประเมินผล โมเดลจะเคลื่อนผ่านขั้นตอนวงจรชีวิต โดยทั่วไปคือ การจัดเตรียม การผลิต และการเก็บถาวร โดยมีการส่งเสริมการขายที่ควบคุมโดยการอนุมัติและการทดสอบ สิ่งนี้ให้ความสามารถในการตรวจสอบ (ใครปรับใช้อะไร เมื่อใด และเพราะเหตุใด) ความสามารถในการทำซ้ำ (สร้างเวอร์ชันใดๆ ใหม่จากเชื้อสายที่บันทึกไว้) และการย้อนกลับอย่างปลอดภัย (กำหนดจุดให้บริการใหม่เป็นเวอร์ชันก่อนหน้าทันทีหากการปรับใช้งานลดลง) การลงทะเบียน เช่น MLflow, SageMaker Model Registry และ Vertex AI ผสานรวมกับ CI/CD เพื่อให้การส่งเสริมโมเดลสามารถทริกเกอร์การปรับใช้โดยอัตโนมัติ และมักจะจัดเก็บลายเซ็นโมเดลที่อธิบายอินพุตและเอาท์พุตที่คาดหวัง

ข้อมูลเชิงลึกทางเทคนิค

รีจิสทรีไม่ได้จัดเก็บน้ำหนักดิบเพียงอย่างเดียว แต่จัดเก็บสิ่งประดิษฐ์แบบแพ็กเกจพร้อมข้อมูลเมตาที่มีโครงสร้างและป้ายกำกับขั้นตอน โมเดลที่ลงทะเบียนไว้แต่ละรุ่นจะมีเวอร์ชัน และแต่ละเวอร์ชันจะเชื่อมโยงกับการทดสอบที่ก่อให้เกิดโมเดลดังกล่าว โดยบันทึกการคอมมิตโค้ด สภาพแวดล้อม และหน่วยวัด การเปลี่ยนสเตจ (การจัดเตรียมเป็นการใช้งานจริง) เป็นเหตุการณ์ที่บันทึกไว้ซึ่งสามารถส่งเว็บฮุคเข้าไปในไปป์ไลน์การปรับใช้ ลายเซ็นโมเดล ซึ่งเป็นสคีมาที่ชัดเจนของประเภทอินพุตและเอาต์พุต ช่วยให้ระบบที่ให้บริการตรวจสอบคำขอและตรวจจับความไม่ตรงกันก่อนที่จะทำให้เกิดข้อผิดพลาดในการคาดการณ์โดยไม่โต้ตอบ

ผลกระทบเชิงกลยุทธ์

ต้นทุนและงบประมาณ

การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี

การตัดสินใจที่ชัดเจนยิ่งขึ้น

การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด

การควบคุมคุณภาพ

ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

อนาคตของการลงทะเบียนแบบจำลอง

การลงทะเบียนกำลังขยายไปสู่ศูนย์กลางการกำกับดูแล เนื่องจากกฎระเบียบของ AI มีความเข้มงวดขึ้น โดยจะแนบการ์ดโมเดล การประเมินอคติ และเส้นทางการตรวจสอบที่จำเป็นสำหรับการปฏิบัติตามข้อกำหนดโดยอัตโนมัติ คาดว่าจะมีการเชื่อมโยงที่เข้มงวดมากขึ้นในการตรวจสอบ เพื่อให้รีจิสทรีไม่เพียงรู้ว่ามีการปรับใช้อะไรบ้าง แต่ยังทราบถึงประสิทธิภาพการทำงานแบบเรียลไทม์ และการย้อนกลับอัตโนมัติเมื่อดริฟท์เกินเกณฑ์ เมื่อ AI ทั่วไปเติบโตขึ้น การลงทะเบียนกำลังปรับตัวเพื่อติดตามเวอร์ชัน LLM พร้อมท์ และน้ำหนักของอะแดปเตอร์ที่ได้รับการปรับแต่งอย่างละเอียด และเพื่อจัดการว่าโมเดลและชุดพร้อมท์ใดที่จะให้บริการแต่ละแอปพลิเคชัน

การใช้งานจริงในโลกแห่งความเป็นจริง

ทีมงานใช้ MLflow Model Registry เพื่อส่งเสริมโมเดลการฉ้อโกงตั้งแต่ 'การจัดเตรียม' ไปจนถึง 'การผลิต' ซึ่งจะทริกเกอร์การปรับใช้อัตโนมัติผ่านไปป์ไลน์ CI/CD

หลังจากที่เวอร์ชันรุ่นใหม่เพิ่มอัตราข้อผิดพลาด วิศวกรที่พร้อมโทรติดต่อจะย้อนกลับโดยกำหนดจุดให้บริการใหม่เป็นเวอร์ชันที่ลงทะเบียนไว้ก่อนหน้านี้ในไม่กี่วินาที

ผู้ตรวจสอบจะตรวจสอบรีจิสทรีเพื่อยืนยันว่าชุดข้อมูลและรหัสใดที่สร้างแบบจำลองการให้คะแนนเครดิตที่ใช้งานจริงในปัจจุบัน

ทีม MLOps จะจัดเก็บเกณฑ์ชี้วัดการประเมินผลของแต่ละเวอร์ชันไว้ในรีจิสทรี เพื่อให้ผู้ตรวจสอบสามารถเปรียบเทียบแบบจำลองของผู้สมัครก่อนที่จะอนุมัติการเลื่อนตำแหน่ง

ความเสี่ยงและรั้ว

การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้

ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป

ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

แผนงานการดำเนินงาน

1

กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน

2

เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง

3

การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้

4

เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Model Registries quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

เริ่มแบบทดสอบ

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

คำแนะนำต่อไป

ONNX และการทำงานร่วมกันของโมเดล

คำถามที่พบบ่อย

What is Model Registries?

การลงทะเบียนโมเดลคือแค็ตตาล็อกที่ควบคุมเวอร์ชันสำหรับโมเดล Machine Learning ที่ได้รับการฝึกอบรม ซึ่งจะติดตามลำดับวงศ์ตระกูล ตัววัด และขั้นตอนการปรับใช้ของแต่ละเวอร์ชัน โดยทำหน้าที่เป็นแหล่งความจริงแหล่งเดียวระหว่างการทดลองและการผลิต ดังนั้นทีมจึงทราบได้อย่างแน่ชัดว่าโมเดลใดที่ใช้งานจริง สร้างอย่างไร และจะย้อนกลับได้อย่างไร

วัตถุประสงค์หลักของการลงทะเบียนแบบจำลองคืออะไร?

บริษัทรับจดทะเบียนจะติดตามเวอร์ชันของโมเดล เชื้อสายและตัววัด และขั้นตอนการปรับใช้ เพื่อให้ทุกคนทราบว่าโมเดลใดที่ใช้งานอยู่และถูกสร้างขึ้นอย่างไร

โดยทั่วไปแล้วโมเดลจะย้ายผ่านขั้นตอนวงจรการใช้งานใดในรีจิสทรี

โดยทั่วไปโมเดลจะได้รับการเลื่อนระดับตั้งแต่การแสดงละครไปจนถึงการใช้งานจริงและถูกเก็บถาวรในภายหลัง โดยแต่ละการเปลี่ยนแปลงจะถูกบันทึกและมักจะได้รับการควบคุมโดยได้รับการอนุมัติ

โมเดลรีจิสตรีเปิดใช้งานการย้อนกลับอย่างปลอดภัยได้อย่างไร

เนื่องจากเวอร์ชันก่อนหน้านี้ยังคงลงทะเบียนอยู่ ทีมจึงสามารถสลับการให้บริการกลับเป็นเวอร์ชันที่ทราบว่าใช้งานได้ภายในไม่กี่วินาที หากการปรับใช้ใหม่ลดระดับลง

ลายเซ็นแบบจำลองในรีจิสทรีคืออะไร

ลายเซ็นกำหนดอินพุตและเอาต์พุตที่คาดหวัง เพื่อให้ระบบที่ให้บริการสามารถตรวจสอบคำขอและตรวจจับความไม่ตรงกันก่อนที่จะทำให้เกิดข้อผิดพลาดโดยไม่โต้ตอบ

เหตุใดเชื้อสายที่บันทึกไว้ (ชุดข้อมูล, การคอมมิตโค้ด, ไฮเปอร์พารามิเตอร์) จึงมีคุณค่า

Lineage ช่วยให้ทีมสร้างเวอร์ชันใดๆ ขึ้นมาใหม่ได้ และช่วยให้ผู้ตรวจสอบยืนยันได้อย่างชัดเจนว่าข้อมูลและโค้ดใดที่สร้างโมเดลที่ปรับใช้