AWS ให้รายละเอียดการออกแบบ SageMaker SDK v3 ใหม่สำหรับการฝึกฝนและการปรับใช้โมเดล AI แบบกำหนดเอง

เกิดอะไรขึ้น

AWS เผยแพร่คำแนะนำทางเทคนิคของ SageMaker Python SDK v3 ซึ่งแทนที่คลาสการฝึกอบรมและการปรับใช้เฉพาะเฟรมเวิร์กหลายคลาสด้วยอินเทอร์เฟซ ModelTrainer และ ModelBuilder แบบรวมศูนย์ โพสต์นี้แสดงให้เห็นถึงการแทรกรันไทม์ของซอร์สโค้ดในเครื่องลงในคอนเทนเนอร์อิมเมจ งานการฝึกอบรมที่มีการจัดการ อุปกรณ์ปลายทางแบบเรียลไทม์ การกระจายการปรับแต่ง Stable Diffusion และการจัดการความลับผ่าน AWS Secrets Manager

ในโพสต์ลงวันที่ 26 สิงหาคม 2026 AWS อธิบาย SageMaker Python SDK v3 ว่าเป็นการออกแบบใหม่ของเวิร์กโฟลว์โหมดสคริปต์ก่อนหน้านี้ จากข้อมูลของ AWS นั้น v3 แทนที่คลาสตัวประมาณค่าเฉพาะเฟรมเวิร์ก เช่น SKLearn, PyTorch และ XGBoost ด้วย ModelTrainer เดียวสำหรับการเปิดตัวงานการฝึกอบรม นอกจากนี้ยังแทนที่รูปแบบ Model และ Predictor ก่อนหน้านี้ด้วย ModelBuilder สำหรับการบรรจุและการปรับใช้โมเดล โพสต์นำเสนอสิ่งนี้เป็นอินเทอร์เฟซทั่วไปสำหรับปริมาณงานที่แตกต่างกัน แทนที่จะเป็นโมเดลใหม่หรืออัลกอริธึมการฝึกอบรมใหม่

แหล่งที่มาเป็นคำอธิบายทางเทคนิคที่เขียนโดย AWS ดังนั้นความสามารถและคุณประโยชน์ของผลิตภัณฑ์ที่อธิบายไว้ที่นี่จึงเป็นคำกล่าวอ้างของ AWS คุณลักษณะหลักคือออบเจ็กต์การกำหนดค่า SourceCode นักพัฒนาจัดเตรียมไดเร็กทอรีต้นทางในเครื่องและคำสั่งการฝึกอบรมหรือสคริปต์รายการการอนุมาน AWS กล่าวว่า SageMaker ซิงโครไนซ์ไดเร็กทอรีนั้นลงในคอนเทนเนอร์ที่เลือกเมื่องานเริ่มต้น ช่วยให้ทีมสามารถเปลี่ยนรหัสการฝึกอบรมหรือการอนุมานได้โดยไม่ต้องสร้างอิมเมจคอนเทนเนอร์ใหม่ คอนเทนเนอร์อาจเป็นอิมเมจที่ลูกค้าสร้างขึ้นใน Amazon Elastic Container Registry, AWS Deep Learning Container หรืออิมเมจของบุคคลที่สาม

คำแนะนำนี้ระบุว่าวิธีนี้จะรักษาการควบคุมแพ็คเกจระบบ ไลบรารี CUDA และเวอร์ชันรันไทม์ ในขณะที่นำเสนออินเทอร์เฟซเดียวสำหรับเวิร์กโหลดที่รวมถึง scikit-learn, PyTorch, Stable Diffusion และไบนารีการอนุมาน C++ แบบกำหนดเอง ตัวอย่างแรกฝึกตัวแยกประเภท Random Forest ที่เรียนรู้ด้วย scikit บนชุดข้อมูลโรคเบาหวานและปรับใช้กับตำแหน่งข้อมูลแบบเรียลไทม์โดยใช้ DJL Serving ตัวอย่างนี้ใช้อินสแตนซ์ ml.m5.2xlarge เดียว การตั้งค่าวอร์มพูลหนึ่งชั่วโมง และ Amazon S3 สำหรับอาร์ติแฟกต์ของโมเดล ตัวอย่างที่สองปรับแต่ง Stable Diffusion 3.5 Medium ด้วย LoRA บนชุดข้อมูลรูปภาพและคำบรรยายที่กำหนดเอง

AWS กล่าวว่าใช้ Hugging Face Accelerate สำหรับการฝึกอบรมแบบกระจายใน A10G GPU สี่ตัวบนอินสแตนซ์ ml.g5.12xlarge หนึ่งอินสแตนซ์ จากนั้นปรับใช้น้ำหนักผลลัพธ์กับตำแหน่งข้อมูลแบบเรียลไทม์ โพสต์ยังแสดงการกำหนดค่าตามสูตร ช่องอินพุตที่ปรับแต่งได้ การติดตาม MLflow ที่เป็นตัวเลือก และการดึงข้อมูลความลับผ่าน AWS Secrets Manager

รายละเอียดที่มา: aws.amazon.com ↗

ทำไมมันถึงสำคัญ

การเปลี่ยนแปลงนี้สามารถลดการสร้างคอนเทนเนอร์ใหม่และการกำหนดค่าเฉพาะเฟรมเวิร์กสำหรับทีมที่ปฏิบัติการปริมาณงาน AI แบบกำหนดเองบน SageMaker นอกจากนี้ยังแสดงให้เห็นรูปแบบการผลิตทั่วไป: แยกโค้ดโมเดลและสภาพแวดล้อมรันไทม์ออกจากกัน ในขณะที่ใช้โครงสร้างพื้นฐานที่ได้รับการจัดการสำหรับการฝึกอบรม อาร์ติแฟกต์ และการอนุมาน แหล่งที่มาไม่ได้จัดเตรียมการเปรียบเทียบประสิทธิภาพ ต้นทุน หรือความพร้อมใช้งานโดยอิสระ

สำหรับทีม AI การเปลี่ยนแปลงเชิงปฏิบัติมากที่สุดที่อธิบายไว้คือการแยกโครงสร้างพื้นฐานรันไทม์ที่นำมาใช้ซ้ำออกจากโค้ดโมเดลที่เปลี่ยนแปลงบ่อยครั้ง คอนเทนเนอร์สามารถเก็บแพ็คเกจระบบปฏิบัติการ ไลบรารี และการขึ้นต่อกันเฉพาะฮาร์ดแวร์ได้ ในขณะที่ซอร์สโค้ด สคริปต์ตัวเรียกใช้งาน และไฟล์การกำหนดค่าจะถูกจัดเตรียมเมื่อเริ่มงาน หากการใช้งานของ AWS ทำงานตามที่อธิบายไว้ การดำเนินการนี้สามารถย่นระยะการวนซ้ำสำหรับการทดลองและการอัปเดตโมเดลได้ เนื่องจากการเปลี่ยนแปลงโค้ดไม่จำเป็นต้องสร้างและพุชคอนเทนเนอร์ใหม่โดยอัตโนมัติ ประโยชน์ดังกล่าวอยู่ที่การปฏิบัติงานมากกว่าอัลกอริทึม โดยส่งผลต่อวิธีที่ทีมพัฒนา ทดสอบ และบำรุงรักษาระบบ AI บนโครงสร้างพื้นฐานคลาวด์ที่ได้รับการจัดการ

API แบบครบวงจรยังอาจลดจำนวนแนวคิด SageMaker ที่นักพัฒนาจำเป็นต้องเรียนรู้เมื่อย้ายระหว่างการเรียนรู้ของเครื่องแบบเดิมๆ และ AI แบบสร้างสรรค์ รูปแบบ ModelTrainer และ ModelBuilder เดียวกันจะแสดงสำหรับตัวแยกประเภทแบบตารางที่ใช้ CPU และงานปรับแต่งการกระจาย GPU แบบหลาย GPU AWS อธิบายเพิ่มเติมว่า ModelBuilder มีความสามารถในการบรรจุตัวจัดการการอนุมานบรรจุภัณฑ์ด้วยสิ่งประดิษฐ์ของโมเดล และในบางกรณี สามารถเลือกคอนเทนเนอร์ บันทึกการขึ้นต่อกัน หรือสร้างโค้ดการทำให้เป็นอนุกรมได้ ความสามารถเหล่านี้อาจทำให้ไปป์ไลน์การปรับใช้สอดคล้องกันมากขึ้น แต่แหล่งที่มาไม่ได้กำหนดว่าทุกเฟรมเวิร์ก เซิร์ฟเวอร์โมเดล หรือไบนารีแบบกำหนดเองได้รับการสนับสนุนหรือลักษณะการทำงานที่เหมือนกัน

การฝึกปฏิบัตินี้เน้นการควบคุมที่สำคัญในการผลิต ผลลัพธ์การฝึกเขียนลงใน Amazon S3 ไฟล์โมเดลได้รับการจัดแพ็กเกจสำหรับการปรับใช้ และตัวจัดการการอนุมานจะต้องโหลดโมเดลหนึ่งครั้ง แทนที่จะโหลดซ้ำสำหรับทุกคำขอ ตัวอย่างยังแนะนำให้ตรวจสอบประเภทเนื้อหาคำขอและใช้ Secrets Manager สำหรับโทเค็นที่ละเอียดอ่อน แทนที่จะวางไว้ในสมุดบันทึกหรือตัวแปรสภาพแวดล้อมข้อความธรรมดา แนวทางปฏิบัติเหล่านั้นสามารถปรับปรุงความสามารถในการทำซ้ำและลดความเสี่ยงที่หลีกเลี่ยงได้ แต่ไม่ได้แสดงให้เห็นถึงระบบความปลอดภัยหรือการกำกับดูแลที่สมบูรณ์ด้วยตัวมันเอง

โพสต์จะไม่รายงานการทดสอบอิสระ เวลาแฝงที่วัดได้ การลดต้นทุน ความน่าเชื่อถือของจุดสิ้นสุด หรือการเปลี่ยนแปลงคุณภาพในโมเดลที่ได้รับการฝึกอบรม

จะดูอะไรต่อไป.

ทีมที่ประเมิน SDK ควรตรวจสอบความพยายามในการโยกย้าย เฟรมเวิร์กที่รองรับและการผสมผสานการให้บริการ ความพร้อมใช้งานระดับภูมิภาค ขีดจำกัดการบริการ สิทธิ์ด้านความปลอดภัย และต้นทุนทั้งหมด นอกจากนี้ พวกเขาควรทดสอบด้วยว่าการแทรกโค้ดรันไทม์, วอร์มพูล, การฝึกอบรม Multi-GPU และการเรียกข้อมูลลับนั้น เหมาะสมกับข้อกำหนดการปรับใช้และการปฏิบัติตามข้อกำหนดของตนเองหรือไม่

คำถามแรกสำหรับผู้รับบุตรบุญธรรมคือขอบเขตการโยกย้าย AWS อธิบายการเปลี่ยนแปลงจากคลาสตัวประมาณ SDK v2 และรูปแบบ Model/Predictor ไปเป็น ModelTrainer และ ModelBuilder แต่โพสต์ไม่ได้แสดงรายการพารามิเตอร์ที่เข้ากันไม่ได้ทั้งหมด คุณลักษณะที่เลิกใช้แล้ว หรือข้อแม้ในการย้าย ทีมที่มีไปป์ไลน์ SageMaker ที่มีอยู่ควรทดสอบจุดเข้าที่กำหนดเอง การติดตั้งการพึ่งพา การเก็บถาวรโมเดล ตัวจัดการการอนุมาน และการรวมการตรวจสอบ ก่อนที่จะถือว่าอินเทอร์เฟซใหม่เป็นการแทนที่แบบดรอปอิน

พวกเขาควรยืนยันด้วยว่ารันไทม์ที่ให้บริการใดรองรับรูปแบบโมเดลและโปรโตคอลคำขอเฉพาะของพวกเขา ต้นทุนและกำลังการผลิตเป็นอีกประเด็นที่เปิดกว้าง ตัวอย่างใช้การฝึกอบรมที่ได้รับการจัดการและตำแหน่งข้อมูลแบบเรียลไทม์, วอร์มพูล, พื้นที่จัดเก็บ S3, การลงทะเบียนคอนเทนเนอร์ และสำหรับ Stable Diffusion จะมี GPU สี่ตัว ทรัพยากรเหล่านั้นสามารถสร้างค่าใช้จ่ายที่เกิดขึ้นประจำได้ และแหล่งที่มาไม่ได้ให้ข้อมูลประมาณการราคา ข้อมูลการใช้งาน หรือการเปรียบเทียบกับวิธีการปรับใช้อื่นๆ

AWS แนะนำผู้อ่านโดยเฉพาะให้ลบตำแหน่งข้อมูล การกำหนดค่าตำแหน่งข้อมูล โมเดล อาร์ติแฟกต์ S3 อิมเมจ ECR และทรัพยากร MLflow เสริมหลังการทดสอบ คำแนะนำในการล้างข้อมูลดังกล่าวเป็นสัญญาณว่าตัวอย่างดังกล่าวเป็นเวิร์กโฟลว์ระบบคลาวด์ในการปฏิบัติงาน ไม่ใช่การสาธิตในพื้นที่โดยไม่เสียค่าใช้จ่าย รายละเอียดด้านความปลอดภัยและความน่าเชื่อถือสมควรได้รับการตรวจสอบก่อนการใช้งานจริง แหล่งที่มากล่าวว่าบทบาทการดำเนินการหรือผู้ใช้จำเป็นต้องได้รับอนุญาตจาก SageMaker และ S3 และหลักการฝึกอบรมหรือการบูรณาการอย่างต่อเนื่องจำเป็นต้องได้รับอนุญาตให้อ่านความลับจาก Secrets Manager

องค์กรควรตรวจสอบสิทธิ์เหล่านั้น แยกบทบาทการฝึกอบรมและการให้บริการ ควบคุมโค้ดที่จะซิงโครไนซ์กับคอนเทนเนอร์ และกำหนดวิธีที่บันทึกจัดการข้อผิดพลาดหรือข้อมูลที่ละเอียดอ่อน นอกจากนี้ยังควรทดสอบการสตาร์ทขณะเครื่องเย็น พฤติกรรมวอร์มพูล การปรับขนาดจุดสิ้นสุด การโหลดโมเดล และการกู้คืนความล้มเหลว โพสต์ไม่ได้ระบุความพร้อมใช้งานระดับภูมิภาค โควต้าบริการ สถานะการสนับสนุนอย่างเป็นทางการ ผลลัพธ์การวัดประสิทธิภาพอิสระ หรือว่าที่เก็บตัวอย่างจะยังคงซิงโครไนซ์กับ SDK ในอนาคตหรือไม่

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง