Kubeflow และ ML Pipeline Orchestration
Kubeflow เป็นชุดเครื่องมือโอเพ่นซอร์สที่เรียกใช้เวิร์กโฟลว์แมชชีนเลิร์นนิงบน Kubernetes โดยเปลี่ยนการฝึกอบรมโมเดลและการปรับใช้ให้เป็นไปป์ไลน์แบบคอนเทนเนอร์ที่ทำซ้ำได้
ภาพรวม
It matters because it lets teams scale ML the same way they scale modern cloud software.
เจาะลึก
Kubeflow เริ่มต้นที่ Google เพื่อเป็นวิธีเรียกใช้ TensorFlow บน Kubernetes จากนั้นจึงขยายเป็นแพลตฟอร์มที่กว้างขึ้น แนวคิดหลักคือแต่ละขั้นตอนของเวิร์กโฟลว์ ML เช่น การเตรียมข้อมูล การฝึกอบรม การประเมิน และการให้บริการจะทำงานเป็นส่วนประกอบในคอนเทนเนอร์ภายในพ็อด Kubernetes Kubeflow Pipelines (KFP) ช่วยให้คุณแสดงขั้นตอนเหล่านี้เป็นกราฟอะไซคลิกโดยตรง (DAG) โดยแต่ละโหนดเป็นคอนเทนเนอร์ในตัวเอง และ Edge จะกำหนดการขึ้นต่อกันของข้อมูล เนื่องจาก Kubernetes จัดการการกำหนดเวลา การปรับขนาด และการจัดสรรทรัพยากร ไปป์ไลน์จึงสามารถขอ GPU สำหรับการฝึกและปล่อยในภายหลัง ส่วนประกอบอื่นๆ ได้แก่ Katib สำหรับการปรับแต่งไฮเปอร์พารามิเตอร์ KServe สำหรับการให้บริการโมเดล และเซิร์ฟเวอร์โน้ตบุ๊ก ผลตอบแทนที่ได้คือความสามารถในการทำซ้ำ ความสามารถในการพกพาข้ามคลาวด์ และความสามารถในการปรับขนาดแต่ละขั้นตอนอย่างเป็นอิสระ
ข้อมูลเชิงลึกทางเทคนิค
ไปป์ไลน์ Kubeflow รวบรวม Python DSL ให้เป็นข้อมูลจำเพาะ YAML ของ Argo Workflows แต่ละส่วนประกอบจะกลายเป็นคอนเทนเนอร์ที่อ่านอินพุตและเขียนเอาต์พุตเป็นอาร์ติแฟกต์ ซึ่งส่งผ่านระหว่างขั้นตอนผ่านที่เก็บอ็อบเจ็กต์ที่ใช้ร่วมกัน เช่น MinIO หรือ S3 Kubernetes กำหนดเวลาแต่ละพ็อด โดยแนบทรัพยากร GPU หรือ CPU ตามคำขอของส่วนประกอบ เครื่องบินควบคุมแคชเอาต์พุตขั้นตอน ดังนั้นขั้นตอนที่ไม่มีการเปลี่ยนแปลงจะถูกข้ามไปในการรันซ้ำ ช่วยประหยัดการคำนวณและทำให้ DAG ขนาดใหญ่มีประสิทธิภาพ
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของ Kubeflow และ ML Pipeline Orchestration
Kubeflow กำลังรวม KFP v2 เข้าด้วยกันและการผสานรวมที่เข้มงวดยิ่งขึ้นกับ KServe สำหรับการให้บริการและ Katib สำหรับการปรับแต่ง พร้อมการสนับสนุนที่ดีกว่าสำหรับการฝึกอบรมแบบกระจายของโมเดลขนาดใหญ่ใน GPU จำนวนมาก คาดว่าจะมีการเชื่อมโยงที่ลึกยิ่งขึ้นในร้านค้าฟีเจอร์ การลงทะเบียนโมเดล และเวิร์กโฟลว์การปรับแต่ง LLM เมื่อโปรเจ็กต์เติบโตภายใต้ CNCF แนวโน้มก็จะไปสู่การติดตั้งที่ง่ายขึ้น การเช่าหลายรายการสำหรับทีม และคำจำกัดความไปป์ไลน์ที่ได้มาตรฐานซึ่งพอร์ตข้ามผู้ให้บริการคลาวด์ภายในองค์กรและผู้ให้บริการคลาวด์รายใหญ่ได้อย่างหมดจด
การใช้งานจริงในโลกแห่งความเป็นจริง
ผู้ค้าปลีกกำหนดเวลาไปป์ไลน์ Kubeflow ทุกคืนที่นำเข้าข้อมูลการขาย ฝึกโมเดลการคาดการณ์ความต้องการใหม่ และพุชไปที่ KServe เพื่อการอนุมาน
ห้องปฏิบัติการวิจัยใช้ Katib เพื่อรันการทดลองไฮเปอร์พารามิเตอร์แบบขนานหลายร้อยรายการบนคลัสเตอร์ GPU โดยจะเลือกการกำหนดค่าที่ดีที่สุดโดยอัตโนมัติ
ธนาคารสร้างไปป์ไลน์การตรวจจับการฉ้อโกงที่ทำซ้ำได้ โดยที่การตรวจสอบการปฏิบัติตามข้อกำหนดแต่ละรายการสามารถรันขั้นตอนการฝึกอบรมที่แน่นอนอีกครั้งจากอาร์ติแฟกต์ที่แคชไว้
สตาร์ทอัพใช้เซิร์ฟเวอร์โน้ตบุ๊กบน Kubeflow ดังนั้นนักวิทยาศาสตร์ข้อมูลต้นแบบโมเดลที่สำเร็จการศึกษาโดยตรงไปยังไปป์ไลน์การผลิตโดยไม่ต้องเขียนโค้ดใหม่
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Kubeflow and ML Pipeline Orchestration quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การตั้งเวลา GPU และการจัดคลัสเตอร์
คำถามที่พบบ่อย
What is Kubeflow and ML Pipeline Orchestration?
Kubeflow เป็นชุดเครื่องมือโอเพ่นซอร์สที่เรียกใช้เวิร์กโฟลว์แมชชีนเลิร์นนิงบน Kubernetes โดยเปลี่ยนการฝึกอบรมโมเดลและการปรับใช้ให้เป็นไปป์ไลน์แบบคอนเทนเนอร์ที่ทำซ้ำได้ สิ่งสำคัญคือช่วยให้ทีมปรับขนาด ML ได้ในลักษณะเดียวกับที่พวกเขาปรับขนาดซอฟต์แวร์ระบบคลาวด์สมัยใหม่
Kubeflow รันเวิร์กโฟลว์แมชชีนเลิร์นนิงบนแพลตฟอร์มพื้นฐานใด
Kubeflow สร้างขึ้นเพื่อเรียกใช้เวิร์กโฟลว์ ML บน Kubernetes โดยเฉพาะ โดยใช้ฟีเจอร์การกำหนดเวลาและการปรับขนาด
ใน Kubeflow Pipelines โดยทั่วไปแต่ละขั้นตอนของเวิร์กโฟลว์จะบรรจุหีบห่ออย่างไร
แต่ละขั้นตอนไปป์ไลน์เป็นคอนเทนเนอร์แบบครบวงจรที่ทำงานภายในพ็อด Kubernetes โดยมีอินพุตและเอาต์พุตส่งผ่านเป็นอาร์ติแฟกต์
ไปป์ไลน์ Kubeflow ใช้โครงสร้างใดเพื่อแสดงลำดับและการขึ้นต่อกันของขั้นตอน
ไปป์ไลน์จะแสดงเป็น DAG โดยที่โหนดเป็นส่วนประกอบและขอบแสดงถึงการพึ่งพาข้อมูลระหว่างกัน
คอมโพเนนต์ Kubeflow ใดมีไว้สำหรับการปรับแต่งไฮเปอร์พารามิเตอร์อัตโนมัติโดยเฉพาะ
Katib เป็นส่วนประกอบของ Kubeflow สำหรับการเพิ่มประสิทธิภาพไฮเปอร์พารามิเตอร์และการค้นหาสถาปัตยกรรมประสาท โดยดำเนินการทดลองหลายรายการพร้อมกัน
เหตุใดไปป์ไลน์ Kubeflow จึงสามารถข้ามขั้นตอนบางอย่างได้อย่างมีประสิทธิภาพเมื่อรันใหม่
เครื่องบินควบคุมแคชเอาต์พุต ดังนั้นขั้นตอนที่อินพุตไม่มีการเปลี่ยนแปลงจะถูกข้ามไป ช่วยลดการคำนวณในการรันซ้ำ