โมดัลแล็บ
Modal เป็นแพลตฟอร์มคลาวด์แบบไร้เซิร์ฟเวอร์ที่ช่วยให้นักพัฒนาเรียกใช้โค้ด Python รวมถึงปริมาณงาน GPU ในระบบคลาวด์ได้โดยการเพิ่มมัณฑนากรให้กับฟังก์ชัน
ภาพรวม
It matters because it removes the pain of containers, infrastructure, and scaling so AI and data teams can deploy models and batch jobs in minutes.
เจาะลึก
Modal ก่อตั้งขึ้นในปี 2021 โดย Erik Bernhardsson (ผู้สร้างไลบรารี Annoy ของ Spotify และ Luigi) และ Akshat Bubna โดยมีเป้าหมายไปที่ช่องว่างระหว่างประสบการณ์ของนักพัฒนาในโครงสร้างพื้นฐาน ML คุณกำหนดสภาพแวดล้อม การขึ้นต่อกัน และฮาร์ดแวร์ของคุณได้โดยตรงใน Python และ Modal จะสร้างคอนเทนเนอร์ จัดเตรียม CPU หรือ GPU และรันโค้ดของคุณตามความต้องการ โดยปรับขนาดเป็นหลายร้อยคอนเทนเนอร์และกลับลงไปที่ศูนย์ ฟีเจอร์ที่โดดเด่นของมันคือคอนเทนเนอร์รันไทม์และระบบไฟล์แบบกำหนดเองที่ออกแบบมาเพื่อการสตาร์ทแบบเย็นเสี้ยววินาที ซึ่งเป็นปัญหาที่ฉาวโฉ่ในระบบไร้เซิร์ฟเวอร์ โมดอลเป็นที่นิยมสำหรับตำแหน่งข้อมูลการอนุมานโมเดล การปรับแต่งอย่างละเอียด การประมวลผลเป็นชุด งานตามกำหนดเวลา (cron) และตำแหน่งข้อมูลเว็บ การเรียกเก็บเงินเป็นต่อวินาทีสำหรับการประมวลผลจริงที่ใช้ มันแข่งขันกันในเชิงแนวคิดกับ AWS Lambda, SageMaker และ Runpod แต่เน้นไปที่เวิร์กโฟลว์ Pythonic ที่เน้นโค้ดเป็นหลัก
ข้อมูลเชิงลึกทางเทคนิค
ความสำเร็จทางวิศวกรรมที่สำคัญของ Modal คือ Cold Start ที่รวดเร็ว โดยสร้างคอนเทนเนอร์สแต็กแบบกำหนดเองและระบบไฟล์แบบ Lazy Loading เพื่อให้คอนเทนเนอร์สามารถหมุนได้ภายในไม่กี่วินาทีแทนที่จะเป็นนาที แม้ว่าโมเดลจะมีน้ำหนักมากก็ตาม นักพัฒนาอธิบายข้อกำหนดของรูปภาพและ GPU ในโค้ด โมดอลสแน็ปช็อตและแคชเหล่านี้ จากนั้นปรับขนาดแบบจำลองคอนเทนเนอร์อัตโนมัติเพื่อให้ตรงกับโหลดขาเข้าและปรับขนาดเป็นศูนย์เมื่อไม่ได้ใช้งาน ดังนั้นคุณจึงจ่ายเฉพาะการประมวลผลที่ใช้จริงเท่านั้น
ผลกระทบเชิงกลยุทธ์
กลยุทธ์ของผู้ขาย
โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป
ต้นทุนและงบประมาณ
ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว
ความเสี่ยงและความปลอดภัย
สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง
อนาคตของ Modal Labs
เมื่อ AI เปลี่ยนจากการทดลองไปสู่การใช้งานจริง ความต้องการการใช้งานแบบไร้อุปสรรคก็เพิ่มขึ้น คาดว่า Modal จะให้การสนับสนุนเชิงลึกมากขึ้นสำหรับการฝึกอบรมแบบกระจาย ปริมาณงานแบบตัวแทนและแบบรันระยะยาว การเรียกใช้โค้ดแบบแซนด์บ็อกซ์สำหรับตัวแทน AI และความสามารถในการสังเกตที่สมบูรณ์ยิ่งขึ้น เดิมพันได้เลยว่าแพลตฟอร์ม ML ที่ชนะจะปรับให้เหมาะสมกับความเร็วของนักพัฒนา โดยปล่อยให้ทีมขนาดเล็กจัดส่งบริการที่สนับสนุน GPU โดยไม่ต้องใช้ทีมโครงสร้างพื้นฐานเฉพาะ
การใช้งานจริงในโลกแห่งความเป็นจริง
นักพัฒนาห่อฟังก์ชันการสร้างภาพด้วยเครื่องมือตกแต่ง Modal และรับจุดสิ้นสุดเว็บที่สนับสนุน GPU ที่ปรับขนาดอัตโนมัติทันที
ทีมข้อมูลดำเนินการงานเป็นชุดทุกคืนกับไฟล์หลายพันไฟล์โดยใช้การกำหนดเวลา cron ของ Modal และการกระจายข้อมูลแบบขนาน
สตาร์ทอัพด้าน AI จะปรับแต่งโมเดลแบบเปิดบน Modal GPU โดยจ่ายต่อวินาที และปรับขนาดเป็นศูนย์เมื่องานเสร็จสิ้น
แพลตฟอร์มตัวแทนใช้ Modal Sandbox เพื่อรันโค้ดที่ไม่น่าเชื่อถือซึ่งสร้างโดย AI ในคอนเทนเนอร์ที่แยกได้อย่างปลอดภัย
ความเสี่ยงและรั้ว
การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง
การกำหนดราคา API หรือการเปลี่ยนแปลงนโยบายสามารถทำลายสมมติฐานได้ในชั่วข้ามคืน
การพึ่งพาผู้ขายรายเดียวจะเพิ่มค่าใช้จ่ายในการล็อคอินและการย้ายข้อมูล
แผนงานการดำเนินงาน
ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง
ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ
รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย
ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Modal Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การค้นพบยา Isomorphic Labs
คำถามที่พบบ่อย
What is Modal Labs?
Modal เป็นแพลตฟอร์มคลาวด์แบบไร้เซิร์ฟเวอร์ที่ช่วยให้นักพัฒนาเรียกใช้โค้ด Python รวมถึงปริมาณงาน GPU ในระบบคลาวด์ได้โดยการเพิ่มมัณฑนากรให้กับฟังก์ชัน สิ่งสำคัญคือเนื่องจากจะขจัดความเจ็บปวดของคอนเทนเนอร์ โครงสร้างพื้นฐาน และการปรับขนาด เพื่อให้ทีม AI และทีมข้อมูลสามารถปรับใช้โมเดลและงานแบทช์ได้ภายในไม่กี่นาที
โดยทั่วไปแล้วนักพัฒนาจะรันโค้ดบน Modal ได้อย่างไร
Modal ช่วยให้คุณกำหนดและเรียกใช้ฟังก์ชันระบบคลาวด์ รวมถึงบน GPU ด้วยการตกแต่งฟังก์ชัน Python ทั่วไป
ปัญหา Serverless ที่รู้จักกันดีคืออะไร Modal ออกแบบมาโดยเฉพาะเพื่อแก้ไข
Modal ได้สร้างคอนเทนเนอร์รันไทม์แบบกำหนดเองและระบบไฟล์แบบโหลดแบบ Lazy Loading เพื่อให้เกิดการ Cold Start ในเวลาไม่ถึงวินาที ซึ่งเป็นปัญหาแบบ Serverless แบบคลาสสิก
Modal เรียกเก็บเงินสำหรับการคำนวณอย่างไร
ค่าบริการโมดอลต่อวินาทีสำหรับการประมวลผลที่ใช้งานจริง และสามารถปรับขนาดคอนเทนเนอร์ให้เป็นศูนย์ได้เมื่อไม่ได้ใช้งาน
ใครเป็นผู้ร่วมก่อตั้ง Modal และเป็นที่รู้จักจากเครื่องมือโอเพ่นซอร์สรุ่นก่อนๆ เช่น Luigi และ Annoy
Modal ก่อตั้งโดย Erik Bernhardsson ซึ่งก่อนหน้านี้เป็นที่รู้จักในการสร้างเครื่องมือ Annoy และ Luigi ของ Spotify
'มาตราส่วนเป็นศูนย์' หมายถึงอะไรใน Modal
เมื่อไม่มีคำขอ Modal จะลดขนาดคอนเทนเนอร์ที่ทำงานอยู่เป็นศูนย์ ดังนั้น คุณจะไม่มีค่าใช้จ่ายในการประมวลผลจนกว่าปริมาณข้อมูลจะกลับมา